[ { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18938 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34559 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17438 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.43167 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4644 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36524 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.33739 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.40844 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.36417 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.56858 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.41558 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.41534 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.35849 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.40727 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.23641 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.35429 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.3009 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42972 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.536 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.37052 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.32616 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.40708 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40852 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48476 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.2817 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.67907 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70405 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.70461 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56605 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.66912 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.65362 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.6839 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.64081 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.5513 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.59148 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.65456 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.60852 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.54545 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48881 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.34009 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.51476 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5593 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5902 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.37668 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.55517 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.48246 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.51696 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.52142 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.43316 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.43078 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.51257 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.44314 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43254 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.16657 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29448 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.15439 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.38617 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45612 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30836 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.29957 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.34686 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.33493 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.48655 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.35391 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.36529 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.31829 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.37105 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.24227 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.29983 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.26367 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.37977 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45703 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.31898 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.33355 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.35024 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4368 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.40596 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.28738 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.64507 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66929 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59589 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.49479 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.59084 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.60816 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.60253 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.5423 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.46601 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.5182 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.60523 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.53512 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.47986 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43404 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.30343 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.46597 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52501 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.51565 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.357 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.50798 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.43254 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.47661 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.468 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.40012 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.4044 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.45717 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.41748 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.39362 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.16621 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29175 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.15292 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.38406 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46003 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.293 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.28377 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.33732 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.3292 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.46279 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.33436 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.34993 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.30832 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.36257 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.25608 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.29287 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.25664 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.3937 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.417 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.31665 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.34811 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.33132 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45839 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38267 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.30314 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.65437 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68137 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59728 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.48808 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.59522 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.61958 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.601 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.53156 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.46501 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.51657 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.61919 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.53779 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.47985 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43845 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.29751 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.46595 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52043 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.49996 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.36026 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.50952 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.42907 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.47123 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.46016 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.41054 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.40881 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.44977 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.4275 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.38416 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.17522 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30478 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.16745 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.40374 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4817 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29521 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.29652 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.35066 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.34737 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.46971 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.34037 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.36681 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.33316 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.38066 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.27774 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.3045 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.27229 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42795 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40922 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.33853 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.3919 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.34135 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48922 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3927 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.33133 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.67748 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70414 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61542 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.50221 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.62367 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.64379 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.62649 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.54797 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.49319 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.54216 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.6439 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.56505 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.50186 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47421 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.31856 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.48887 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53651 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50781 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.38412 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.54263 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.45306 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.49596 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.48593 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.43941 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.43517 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.46773 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.45891 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.40116 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.20824 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32904 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.20208 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.47938 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52845 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30757 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.3609 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.42483 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.41649 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.55923 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.40999 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.45272 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.41918 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.44267 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.30385 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.36446 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.35745 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46907 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43943 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.38101 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.47328 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.414 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51904 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41722 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.38216 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.70785 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71884 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62695 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.53708 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.66027 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.67663 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.6705 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.58705 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.54589 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.59688 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67393 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.60502 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.54321 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51335 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.38719 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.54638 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56254 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53195 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.44209 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.6049 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.51265 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.5672 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.55008 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.49247 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.49933 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.52225 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.52053 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.4646 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.21326 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33304 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.2074 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.48983 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53378 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30816 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.3747 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.43539 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.42707 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.57064 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.41913 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.466 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.43876 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.45296 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.31285 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.3914 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.36943 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4726 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44071 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.38432 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.48682 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.42161 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52276 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41986 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39831 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.71187 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7202 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62753 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.54423 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.66436 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.68094 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.67884 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.59175 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.55438 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.60771 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67765 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.61638 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.55789 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51484 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.41498 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.55509 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56488 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53316 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.45775 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.61224 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.51981 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.57686 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.55961 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.50157 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5124 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.53083 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.53554 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.48275 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.21326 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33304 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.2074 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.48983 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53378 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30816 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.3747 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.43539 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.42707 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.57064 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.41913 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.466 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.43876 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.45296 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.31285 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.3914 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.36943 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4726 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44071 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.38432 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.48682 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.42161 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52276 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41986 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39831 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.71187 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7202 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62753 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.54423 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.66436 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.68094 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.67884 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.59175 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.55438 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.60771 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67765 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.61638 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.55789 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51484 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.41498 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.55509 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56488 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53316 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.45775 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.61224 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.51981 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.57686 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.55961 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.50157 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5124 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.53083 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.53554 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.48275 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "map_at_1", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06238 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15851 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.05712 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.1793 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20266 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.11405 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.09436 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.13247 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.1409 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.1533 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.09785 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.11558 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.10982 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.15827 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.14277 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.10934 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.07913 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.1827 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.11201 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.15062 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.14284 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.10296 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26399 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13051 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.13662 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.46322 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.41495 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.37128 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.29128 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.35391 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.42284 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.37407 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.29942 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.24165 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.31593 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.41566 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.32306 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.28573 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2047 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.1199 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.22847 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2677 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23064 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.16266 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.2599 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.22028 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.21916 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.19427 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.21674 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.2037 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.23552 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.21272 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.18687 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "map_at_3", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.09616 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21468 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09096 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.2468 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31643 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.18012 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.15424 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.19407 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.21014 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.25698 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.16794 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.19152 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.17325 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.23609 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.19612 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.16513 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.12879 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27233 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.21268 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.20454 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.2269 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.16974 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.36843 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.22066 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.22424 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.56488 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57265 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.48436 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.37265 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.4699 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.52151 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.47896 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.39447 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.33629 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.40657 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.52014 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.41968 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.37378 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30561 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.18002 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.32135 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.38158 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34722 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.23878 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.36651 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.29767 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.31906 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.29535 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.299 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.29147 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.31831 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.30136 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.26355 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "map_at_5", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11252 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23407 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10463 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.27846 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35984 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20778 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.17819 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.22188 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.23353 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.30281 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.20174 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.22484 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.20163 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.26486 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.21276 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.18972 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.15233 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30796 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26126 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.22615 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.26096 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.20372 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4012 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2633 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.25045 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.58873 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6145 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.51595 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.3974 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.50431 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.54878 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.511 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.42686 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.36721 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.43023 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.54773 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.44796 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.39579 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34434 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.20071 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.35795 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42151 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38789 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.26865 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.40555 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.32701 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.35742 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.338 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.3305 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.31812 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.34777 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.33388 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.28873 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "map_at_10", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.12846 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25361 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.11872 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.31049 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40311 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.23193 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.20737 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.25161 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.25965 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.3559 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.23602 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.26528 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.23718 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.29569 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.22715 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.2144 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.1799 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.33845 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30271 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.24759 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.29849 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.24297 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42924 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30276 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.27315 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.60781 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64116 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.53729 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.4175 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.53306 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.57138 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.54073 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.45437 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.39616 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.45333 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.56812 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.47355 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.41627 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38156 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.22411 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.39099 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4555 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42044 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.29606 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.44476 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.35988 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.39665 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.37959 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.35774 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.34483 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.37713 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.36525 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.31484 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "map_at_50", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1426 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26528 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13172 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.34372 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42845 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2399 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.23513 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.28466 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.28827 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.40442 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.26921 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.30582 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.275 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.32221 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.23578 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.23694 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.21337 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.35645 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.32073 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.2644 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.33257 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.27802 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44253 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31885 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.29082 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.62101 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64805 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54369 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.4327 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.55072 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.58593 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.56219 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.47283 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.41925 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.47574 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.58105 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.49055 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.43237 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40165 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.24899 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.41641 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46926 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.43497 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.32022 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.47441 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.38679 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.43024 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.41207 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.37909 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.37041 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.40065 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.39208 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.33983 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "map_at_100", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14339 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26593 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13262 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.34595 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42941 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.24001 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.23763 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.28682 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.29035 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.40723 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.27131 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.30874 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.2789 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.32424 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.2369 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.24167 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.21604 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.357 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.32098 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.26499 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.335 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.27971 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44299 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31919 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.29297 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.62173 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64823 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54377 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.43388 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.5515 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.58666 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.56378 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.47364 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.42084 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.4778 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.58166 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.49239 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.43467 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40193 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.25395 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.41808 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46963 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.43514 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.32283 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.4758 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.38825 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.43233 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.41397 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.3807 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.37277 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.40233 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.39466 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.34306 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14339 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26593 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13262 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.34595 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42941 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.24001 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.23763 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.28682 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.29035 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.40723 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.27131 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.30874 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.2789 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.32424 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.2369 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.24167 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.21604 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.357 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.32098 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.26499 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.335 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.27971 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44299 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31919 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.29297 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.62173 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64823 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.54377 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.43388 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.5515 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.58666 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.56378 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.47364 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.42084 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.4778 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.58166 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.49239 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.43467 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40193 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.25395 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.41808 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46963 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.43514 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.32283 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.4758 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.38825 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.43233 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.41397 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.3807 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.37277 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.40233 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.39466 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.34306 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06238 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15851 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.05712 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.1793 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20266 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.11405 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.09436 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.13247 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.1409 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.1533 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.09785 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.11558 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.10982 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.15827 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.14277 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.10934 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.07913 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.1827 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.11201 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.15062 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.14284 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.10296 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26399 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13051 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.13662 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.46322 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.41495 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.37128 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.29128 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.35391 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.42284 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.37407 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.29942 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.24165 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.31593 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.41566 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.32306 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.28573 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2047 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.1199 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.22847 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2677 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23064 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.16266 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.2599 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.22028 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.21916 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.19427 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.21674 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.2037 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.23552 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.21272 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.18687 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11419 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23559 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.11097 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.28333 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36104 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19818 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.18162 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.22461 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.25207 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.28616 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.19421 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.21878 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.20405 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.27061 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.2385 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.19655 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.15862 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.31681 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2376 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.24496 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.28561 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.19346 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42277 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24859 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.2677 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.61535 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61923 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.52135 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.41569 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.51731 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.56583 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.52048 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.43521 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.38121 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.45303 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.57443 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.4729 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.41951 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34914 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.22135 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.36548 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42937 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.38062 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.2845 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.4148 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.33604 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.36508 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.33811 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.34142 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.34425 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.35794 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.35428 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.30029 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14763 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27061 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.1397 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.34777 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43597 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.24507 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.23065 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.28298 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.3035 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.36127 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.25519 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.27969 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.26118 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.32533 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.28487 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.2525 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.21121 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39272 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30887 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.29908 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.36572 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.25196 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49691 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31319 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.32741 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.66974 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68991 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58082 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.46781 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.58654 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.62453 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.58348 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.49555 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.44666 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.50324 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.63479 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.53231 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.47217 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42416 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.27587 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.44043 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.499 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44694 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.35132 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.4915 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.40029 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.43599 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.41798 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.41069 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.40855 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.41779 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.42869 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.35426 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18969 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31759 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.18525 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.43742 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52747 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2927 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.31292 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.36395 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.38043 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.47263 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.34513 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.38172 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.36514 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.40667 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.34313 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.32376 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.2934 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4868 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3896 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.37813 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.48739 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.35028 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58046 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39013 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40052 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.72957 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75294 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63214 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.52562 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.66819 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.69253 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.66177 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.56739 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.53091 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.58064 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.70162 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.61003 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.54067 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52811 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.35505 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.53092 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57317 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.51551 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.43641 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.5996 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.49272 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.53764 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.52345 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.49493 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.49557 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.49802 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.53018 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43349 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.27709 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38505 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.27802 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.63556 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.65444 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32321 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.47772 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.55008 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.55915 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.68682 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.51148 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.5933 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.58925 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.56988 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.4311 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.48211 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.50851 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60796 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45975 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.49669 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.72868 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.52453 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67353 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4511 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.5728 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.81899 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79775 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66405 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.62646 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.77199 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.78903 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.78288 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.67622 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.68346 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.74485 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.7907 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.73015 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.66157 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.6369 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.54844 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.68967 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64671 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57685 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.59984 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.77716 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.65506 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.72913 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.69377 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.64995 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.68119 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.64348 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.70637 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.612 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.2973 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40372 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.29892 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.6729 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67754 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32549 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.52721 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.58696 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.59766 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.72512 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.54214 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.64001 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.66402 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.60782 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.47668 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.58087 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.54909 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62408 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46429 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.5099 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.78754 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.54983 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.69405 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46417 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.65293 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.83559 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80468 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66643 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.6575 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.78942 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.80842 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.81835 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.69525 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.71765 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.78981 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.80779 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.78017 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.72529 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64348 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.6543 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.72486 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65797 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58283 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.66647 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.80889 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.6827 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.76503 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.73178 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.68764 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.73632 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.67707 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.77167 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.68667 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.2973 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40372 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.29892 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.6729 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67754 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32549 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.52721 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.58696 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.59766 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.72512 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.54214 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.64001 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.66402 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.60782 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.47668 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.58087 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.54909 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62408 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46429 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.5099 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.78754 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.54983 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.69405 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46417 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.65293 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.83559 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80468 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.66643 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.6575 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.78942 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.80842 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.81835 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.69525 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.71765 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.78981 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.80779 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.78017 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.72529 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64348 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.6543 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.72486 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65797 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58283 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.66647 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.80889 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.6827 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.76503 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.73178 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.68764 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.73632 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.67707 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.77167 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.68667 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18938 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34559 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17438 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.43167 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4644 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36524 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.33739 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.40844 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.36417 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.56858 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.41558 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.41534 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.35849 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.40727 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.23641 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.35429 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.3009 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42972 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.536 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.37052 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.32616 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.40708 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40852 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48476 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.2817 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.67907 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70405 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.70461 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56605 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.66912 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.65362 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.6839 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.64081 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.5513 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.59148 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.65456 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.60852 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.54545 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48881 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.34009 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.51476 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5593 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5902 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.37668 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.55517 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.48246 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.51696 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.52142 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.43316 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.43078 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.51257 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.44314 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43254 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1351 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20449 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.12687 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.28416 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34211 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25601 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.25621 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.27897 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.25315 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.41618 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.31073 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.31375 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.26778 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.28536 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.14869 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.24112 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.22775 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.28111 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.416 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.23203 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.25098 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.30491 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26945 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35157 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.20567 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.34714 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.42185 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.37922 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.31538 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.38088 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.34324 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.37558 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.36948 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.33165 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.32635 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.34236 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.33883 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.30599 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32491 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.23685 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.33608 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.37042 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.39446 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.26557 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.36402 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.30677 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.35275 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.36632 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.27426 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.28358 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.31774 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.29037 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.28707 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.11334 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15406 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10318 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.23153 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27771 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20133 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.20802 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.23033 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.20089 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.3413 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.26089 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.26012 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.22046 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.22493 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.11441 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.19896 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.19382 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.22313 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3396 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.18085 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.20749 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.25422 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.20568 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28227 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.16017 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.24059 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.30376 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.26756 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.22937 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.27779 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.24449 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.27269 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.27184 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.24682 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.23198 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.2406 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.24547 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.21996 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.25372 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.18698 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.26603 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28316 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.30171 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.21181 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.27955 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.2383 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.27994 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.29365 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.21482 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.21609 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.2433 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.2295 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.21912 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08085 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09965 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.0741 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.16262 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.18924 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.1285 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.14993 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.16309 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.13997 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.24314 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.186 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.19274 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.16379 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.15549 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.07343 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.1409 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.14646 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.14473 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2222 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.12265 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.15205 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.18632 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.13186 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18636 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.10426 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.14178 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.17576 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.15379 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.14081 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.16926 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.14746 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.17043 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.16762 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.15751 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.14511 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.14224 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.15137 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.13479 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.167 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.13133 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.17563 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.17731 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.18805 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.14283 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.18686 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.16221 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.19108 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.1997 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.14072 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.14285 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.16068 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.15479 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.1468 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02532 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02615 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02447 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.05429 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05033 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02925 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.04947 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.05482 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.04805 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.07684 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.0596 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.06592 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.05761 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.04896 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.01943 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.04617 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.05538 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.03748 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.05321 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.03484 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.04958 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.06109 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03237 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04359 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.03037 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.03525 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03799 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.0333 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.0368 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.04231 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.03693 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.04495 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.04291 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.04395 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.04155 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.0349 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.03898 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.03679 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04227 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.04444 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.04995 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04135 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.04386 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.04293 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.05223 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.04817 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.05748 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.05693 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.04069 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.04402 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.0469 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.04633 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.04569 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01349 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01359 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.01313 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.02917 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02593 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.01472 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.02746 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.02953 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.02602 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.04084 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.03174 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.03563 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.03233 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.02641 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.0107 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.02837 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.03017 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.01917 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.02685 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.01797 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.02677 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.03216 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01652 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02211 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.01706 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.01826 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01913 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.01674 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.01945 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.02177 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.01905 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.02372 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.02223 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.02335 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.02244 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.01794 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.0211 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.02063 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02134 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.02729 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.0264 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02096 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02208 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.02389 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.02718 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.02533 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.03052 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.03006 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.02177 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.02405 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.02492 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.02538 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.02587 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.00135 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00136 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.00131 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.00292 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00259 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00147 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.00275 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.00295 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.0026 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.00408 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.00317 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.00356 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.00323 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.00264 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.00107 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.00284 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.00302 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00192 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00268 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.0018 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.00268 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.00322 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00165 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00221 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.00171 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.00183 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00191 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00167 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.00194 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.00218 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.00191 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.00237 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.00222 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.00233 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.00224 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.00179 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.00211 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.00206 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00213 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.00273 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.00264 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.0021 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00221 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.00239 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.00272 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.00253 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.00305 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.00301 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.00218 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.00241 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.00249 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.00254 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.00259 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18938 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34559 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17438 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.43167 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4644 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.36524 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.33954 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.40916 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.36417 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.56932 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.41558 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.41534 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.35922 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.40727 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.23727 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.36169 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.3009 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42972 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.53467 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.37052 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.32616 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.40708 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40931 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48407 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.28426 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.67907 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70405 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.70461 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.56679 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.66985 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.65362 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.6839 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.64081 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.5513 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.59148 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.65456 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.60783 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.54614 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48881 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.34732 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.51544 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5593 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59169 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.37668 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.55517 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.48246 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.51696 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.52142 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.43316 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.43078 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.51257 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.44314 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43331 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.22991 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37844 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.22021 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.51193 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5396 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40746 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.415 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.48736 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.44769 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.64061 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.49026 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.49182 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.43699 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.48689 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.28588 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.43935 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.3811 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50256 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60489 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.44838 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.41557 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.47922 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47411 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54571 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.34723 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.7404 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75699 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.74727 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.63419 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.73358 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.71377 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.73841 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.70043 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.62066 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.65608 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.71462 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.68155 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.61552 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55897 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.43946 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.59346 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62933 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64687 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.46076 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.6313 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.55665 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.60079 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.605 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.50267 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.51096 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.58066 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.52768 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.50206 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.23913 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38437 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.23121 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.52683 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55152 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.41541 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.43097 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.50585 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.46401 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.65337 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.50696 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.5101 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.45317 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.49936 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.29886 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.46161 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.40304 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51654 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61286 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.46345 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.43483 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.49197 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48743 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.55267 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.35843 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.74936 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76315 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75203 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64386 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.74251 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.72268 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.74675 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.70856 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.63056 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.66599 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.72271 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.69051 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.62847 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57034 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.46182 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.61065 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.63782 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65403 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.47754 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.64321 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.57153 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.61362 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.61925 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.51822 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.5282 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.59403 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.54412 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.51829 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.24488 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38842 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.23968 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.53676 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55786 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.41833 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.44136 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.51526 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.47454 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.66082 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.51783 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.52127 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.46552 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.50852 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.30735 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.47444 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.41696 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52465 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61687 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.47549 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.44786 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.50504 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49446 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.55726 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.36572 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.75405 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76594 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75372 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64979 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.74719 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.72721 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75055 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.71361 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.63705 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67392 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.72822 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.69812 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.63703 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57696 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.47366 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.61749 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64119 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65796 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.48853 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65137 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.57898 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.62248 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.62692 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.52795 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.53765 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.60158 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.55562 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.52965 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.24914 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39039 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.24434 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.5427 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56115 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.41906 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.44741 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.52122 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.48142 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.66501 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.52241 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.52694 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.47283 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.51369 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.31239 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.48056 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.42426 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52804 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61849 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.47973 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.45525 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.50988 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49718 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.55914 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.37229 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.75608 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7671 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75423 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.65301 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.74913 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.72943 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75309 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.71604 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.64025 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.67787 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.73039 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.7013 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.64101 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57893 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.48086 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.62162 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64309 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65939 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.49448 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65529 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.5836 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.62715 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.63031 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.53312 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.54462 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.60637 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.56042 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.53631 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.24942 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39056 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.2446 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.54291 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56133 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4191 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.44762 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.52149 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.48183 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.66511 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.52251 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.52719 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.47321 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.51398 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.31253 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.48079 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.42447 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52822 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61854 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.47983 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.45557 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.51012 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4974 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.55929 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.37308 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.75615 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76719 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75426 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.6531 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.7492 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.72958 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75316 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.71607 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.64037 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.678 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.73053 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.70141 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.64111 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57898 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.4811 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.62182 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64319 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65945 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.4947 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65543 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.58379 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.62724 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.6304 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.53331 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.54483 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.60659 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.56058 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.53651 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.24942 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39056 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.2446 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.54291 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56133 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4191 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.44762 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.52149 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.48183 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.66511 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.52251 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.52719 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.47321 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.51398 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.31253 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.48079 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.42447 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52822 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61854 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.47983 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.45557 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.51012 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4974 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.55929 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.37308 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.75615 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76719 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75426 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.6531 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.7492 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.72958 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.75316 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.71607 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.64037 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.678 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.73053 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.70141 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.64111 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57898 }, { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.4811 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.62182 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64319 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65945 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.4947 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.65543 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.58379 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.62724 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.6304 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.53331 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.54483 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.60659 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.56058 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.53651 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54655 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55917 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47399 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59437 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64247 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37978 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38956 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.32938 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35574 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50004 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53305 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44227 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57504 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55047 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59313 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35205 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50033 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40782 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.36703 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48504 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52214 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4484 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60219 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65314 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5569 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59716 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.36956 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53698 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44506 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3956 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.52198 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55845 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49126 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71005 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59911 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64471 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.41922 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56011 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48086 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44464 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58948 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62312 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56159 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70356 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76521 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64754 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69084 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49443 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59894 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53167 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50769 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59221 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62525 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56519 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76732 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64957 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69358 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49862 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60346 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53717 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51454 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59221 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62525 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56519 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76732 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64957 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69358 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49862 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60346 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53717 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51454 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.14634 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.15611 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.15413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.27823 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.24868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.25657 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.3401 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.16055 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38956 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.26508 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.16862 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.29101 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.3194 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.27635 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44822 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.43928 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40911 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.48656 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.24933 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47456 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.3656 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.27757 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38667 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.33688 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.50306 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51593 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46057 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52053 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.28228 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.49505 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.38921 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.31798 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.41558 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4541 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.38987 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.55151 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59735 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50656 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55519 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.31979 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50447 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40687 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35273 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45233 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49428 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4242 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57281 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63221 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53115 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57601 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35114 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51395 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42154 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37795 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45294 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49487 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57321 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63268 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53171 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57643 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35189 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51434 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42207 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37889 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45294 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49487 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57321 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63268 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53171 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57643 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35189 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51434 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42207 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37889 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.14634 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.15611 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.15413 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.27823 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.24868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.25657 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.3401 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.16055 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38956 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.26508 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.16862 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3371 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.37067 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.31702 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53037 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.48209 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4575 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.53307 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30389 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5743 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46612 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34487 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43157 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47168 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42114 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60282 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54993 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5974 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38396 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66265 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55119 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43271 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61509 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55037 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78004 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77661 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6633 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71305 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50554 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73494 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64713 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55497 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.74867 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78275 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74753 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.90954 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91603 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.80219 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.85199 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72222 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.8996 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.83605 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.75596 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75942 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76189 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.80969 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8644 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7413 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.92771 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.86869 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.79126 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75942 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76189 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.80969 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8644 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7413 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.92771 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.86869 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.79126 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54655 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55917 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47399 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59437 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64247 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37978 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38956 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.32938 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35574 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43644 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46943 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.37669 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.4216 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54167 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.41468 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.39875 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26685 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.19143 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.20673 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.26984 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.35676 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.3858 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.31965 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.3262 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.43859 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.31964 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.28871 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.21858 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.13253 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.14837 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.21905 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.25165 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.26775 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.21965 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.21014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.30163 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.20655 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.18038 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.15355 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.07349 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.0905 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.14706 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.06673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.06964 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.05971 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05042 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05202 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04522 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.04721 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01799 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02463 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04151 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03381 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03521 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03043 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02546 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03726 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02634 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02293 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0241 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00928 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.0127 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02143 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00338 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00352 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00304 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00373 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00263 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00229 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00241 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00093 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00127 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00214 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54655 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55917 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47399 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59437 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64247 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37978 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.38956 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.32938 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35854 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62362 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6425 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55829 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70188 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79755 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67212 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71371 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46403 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.47456 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4273 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45565 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63804 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64931 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57086 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71469 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80802 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.68016 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72245 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48766 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.49505 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44599 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47246 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6448 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65666 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58362 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71958 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81396 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.68624 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73134 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49828 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50447 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45826 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48373 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64857 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66005 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5896 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72159 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81496 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.68869 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73366 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5054 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51393 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46783 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48987 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64857 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66005 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58965 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.815 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.68869 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73371 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50549 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51435 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46817 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49028 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-base", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-base", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-12-01T07:21:57Z", "is_anonymous": false, "revision": "9b83f01ba307fe894cb78577b53aa35a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64857 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66005 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58965 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.815 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.68869 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73371 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50549 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51435 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46817 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49028 } ] } ]