[ { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46218 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37389 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52113 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.45238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5672 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65489 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55917 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57225 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57357 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52459 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42354 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51228 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43828 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.45213 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.49084 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59211 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50718 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52085 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51988 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47051 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43937 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.54201 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48435 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47243 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.42786 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.49842 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.5826 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49684 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50971 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50119 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48602 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47771 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56173 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53091 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.50852 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46046 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.53383 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62158 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.51984 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55547 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55246 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53837 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55337 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5994 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57859 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5344 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59883 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70501 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60931 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63829 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64071 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.615 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57003 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60925 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59056 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60263 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54928 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61747 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7193 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62616 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65251 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65489 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63155 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58723 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61532 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62033 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57722 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63953 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72726 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6489 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66829 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67149 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64439 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.2108 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.31034 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.24818 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.18643 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.29947 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.22522 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.15946 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.19883 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.17317 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.238 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.32185 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48394 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39956 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34902 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29422 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.39352 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.38599 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.30438 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.34347 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.31039 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34624 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.35342 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5004 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43011 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.38396 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.33871 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.41984 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.44866 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.35812 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.38952 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.36425 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38751 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37956 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50869 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45258 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.40883 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36685 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.44444 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50574 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40635 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44524 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43397 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43036 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40808 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51702 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46621 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.43878 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39588 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46691 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54902 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.44945 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48432 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47949 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46231 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41076 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51791 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46758 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44114 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39838 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46993 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55201 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45291 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48709 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48252 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46539 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41188 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5182 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44246 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40036 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.47167 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55291 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45498 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48848 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48379 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46649 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.2108 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.31034 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.24818 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.18643 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.29947 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.22522 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.15946 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.19883 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.17317 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.238 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38541 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59438 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4864 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.39688 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.33851 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.43645 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.43522 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.35378 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.39107 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.35603 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39914 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46101 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66667 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58729 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.48574 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44234 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.49895 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.53872 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.44665 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47127 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.44547 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49118 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5596 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.72691 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.7139 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5763 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53675 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58325 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.67061 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56061 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60816 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60641 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62203 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.81122 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.89558 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.8959 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83132 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.75933 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79128 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89954 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80764 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.84763 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.84435 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.85544 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89123 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95582 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.96192 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.89637 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.82263 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.87435 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.95707 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.87419 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.90691 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.89989 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.92456 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.9972 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.99008 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.99547 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.99442 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.99007 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.99201 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.99761 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46218 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37389 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52113 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.45238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5672 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65489 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55917 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57225 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57357 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52459 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.29692 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.19813 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.21365 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31455 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.30853 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.4846 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.43393 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42775 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43944 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34153 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.22521 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.13333 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.16024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.24 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.2506 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.22957 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.38967 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.3497 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.3341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34955 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26995 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.1423 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.07269 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.1 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.14845 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.15863 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.14167 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.25897 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23284 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.22948 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.25526 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.18306 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.0428 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01791 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02629 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0458 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.04839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04172 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06526 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07417 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05344 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02333 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00956 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01412 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02473 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02646 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02341 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03867 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03787 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03477 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03952 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02913 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00403 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00424 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00379 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00426 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00312 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46218 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37389 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52113 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.45238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5672 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.65489 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55917 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57225 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57357 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52459 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54248 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48394 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46044 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51935 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62858 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73551 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.643 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65751 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66116 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60929 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55957 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5004 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60972 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64189 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74706 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65468 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66908 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67137 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62609 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56964 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50869 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49902 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61955 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65046 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75091 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66086 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6756 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67909 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.6363 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57668 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51702 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50648 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62548 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55609 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65574 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75411 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66575 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68094 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68314 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64101 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57717 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51791 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5073 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62575 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55654 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65614 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75428 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66611 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68122 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68335 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64124 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57734 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5182 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50738 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62592 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55693 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6564 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75433 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66634 }, { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68128 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68354 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64138 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.58828 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44043 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68307 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.70665 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.68116 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.66341 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.71909 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68976 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.72542 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.64672 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.79191 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.67232 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.68558 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72247 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.66573 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50439 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.61615 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.45316 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46733 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.40422 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14365 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10347 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0911 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43653 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.50518 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.45892 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.4463 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.42537 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.45743 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.5118 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.48368 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.46137 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.52077 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.54216 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4271 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.51048 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47082 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40681 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38504 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.43604 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48097 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.52101 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.50877 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.50116 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.56857 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.58789 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.55973 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.50489 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.60225 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53961 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.52506 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50854 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.51544 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.49709 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37515 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61308 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.57387 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.60725 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.56436 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.60566 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.5716 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.6139 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.58438 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.6704 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.57235 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.58094 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60462 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.61195 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4533 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.51936 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.4488 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40025 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.34151 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13927 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10189 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08392 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42147 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.45679 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.41721 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.40787 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.47027 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.39337 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.46089 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.45204 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.40067 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.44952 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.47205 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38646 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.46072 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47515 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4175 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33703 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.38367 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44159 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.47678 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.47123 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.47259 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.5275 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.5123 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.51326 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.45862 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.55266 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.50199 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.48431 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45529 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.46441 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.47886 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37262 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62333 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.5614 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.6159 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.55865 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.60379 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.55695 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.60897 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.59626 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.66679 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.55901 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.57221 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59863 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.62141 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46562 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.50268 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.4611 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.36897 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.31953 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14773 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10403 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.08498 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43167 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.43633 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.40973 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.39526 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.50086 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.36878 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.44152 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.4434 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.38754 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.42666 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.44836 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38041 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.44939 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49047 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.43364 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.31807 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.36311 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44464 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.48728 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.46998 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.47264 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.53002 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.5017 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.5036 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.45489 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.55209 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.50316 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.48282 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45019 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.46182 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.5024 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.39648 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64961 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.58283 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.63646 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.58258 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.62813 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.57748 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.62746 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.62082 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.68741 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.57886 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.59414 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62701 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.64666 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49421 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.52754 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.4986 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38915 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.32683 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16781 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.11709 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.09763 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45611 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.4518 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.42938 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.41957 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.5373 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.37895 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.44857 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.4639 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.40015 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.4404 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.46649 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.40559 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.46561 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51705 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.46324 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3396 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.37143 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47379 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.51867 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.49422 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.50097 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.55553 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.52837 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.52756 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.48061 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.58794 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53398 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.5051 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47661 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.488 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.57857 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4514 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6815 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.63815 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.6753 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.62763 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.66973 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.63289 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.6713 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.65488 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.73096 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.63029 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.64646 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67112 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.68057 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54545 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.59459 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.56714 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48589 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.40049 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21088 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.1564 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13464 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51951 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.54636 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.51013 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.5037 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.5838 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.47266 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.54635 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.53553 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.48936 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.5301 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.55306 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48526 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.54255 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5536 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.50424 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41234 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.46343 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53357 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.57643 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.56429 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.56228 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.61569 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.60614 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.60002 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.55405 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.64869 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.60038 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.57725 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54201 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.56042 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.59881 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46828 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68946 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.65001 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.68409 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.63865 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.68359 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.64678 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.68255 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.66367 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.73999 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.64274 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.65744 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68126 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.6897 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55963 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.61103 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.57993 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.51005 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.42388 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22516 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17002 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1484 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53396 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.56906 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.53042 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.52289 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.59258 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.49767 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.5692 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.55338 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.51202 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.55058 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.57417 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.50384 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.56003 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56113 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.51736 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.43151 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.49033 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54632 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.59099 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.58041 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.57505 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.62891 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.62286 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.61612 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.5704 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.66023 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.61343 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.59146 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55701 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.57534 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.62838 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49921 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7031 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.674 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.6991 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.6598 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.70352 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.6691 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.70131 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67986 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.75647 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.66515 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.67669 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69948 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.70388 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58337 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.6379 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.59774 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.54862 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.47383 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2633 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.21139 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.18761 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55965 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.59998 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.56275 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.55475 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.60587 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.53983 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.60154 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.58153 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.54781 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.58267 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.60305 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.53601 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.58991 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57894 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.54544 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46644 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.53195 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56813 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.61244 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.60441 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.59864 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.64856 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.64283 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.6395 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.59529 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.67538 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.63267 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.61624 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58136 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.59896 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.223 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19136 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.39676 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.30908 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.42677 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.34034 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.38068 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.31832 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.39313 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.40029 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.41595 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.33167 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.3463 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.38023 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.43388 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.23639 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.25522 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.19586 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.09742 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.11168 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.05405 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02848 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02215 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20079 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.13509 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.16772 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.13077 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.28267 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.10755 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.13291 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.16925 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.14772 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.14204 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.16637 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12916 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.19913 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.30792 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.20869 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.10135 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.10223 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2262 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.24848 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.21671 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.22437 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.27902 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.21688 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.21838 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.21504 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.27621 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.22987 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.21358 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.20239 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.21054 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.315 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26572 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5143 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.41651 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.51321 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.43628 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.4794 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.41933 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.48399 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.49397 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.53688 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.42727 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.44617 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.48348 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.52311 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.35344 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.34808 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.30846 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.18297 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.18345 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09088 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.05444 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.04143 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.29998 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.2357 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.25426 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.2236 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.3984 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.1884 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.2394 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.28141 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.22245 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.23804 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.26749 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22465 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.29194 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.40821 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.33907 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.17529 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.18126 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31285 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.35155 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.31536 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.33352 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.39115 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.32436 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.33371 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.30449 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.40133 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.34157 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.31921 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.30225 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.30698 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.34899 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28785 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54741 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.4507 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.5388 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.46103 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.50916 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.44942 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.5141 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.52043 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.57067 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.4581 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.47388 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.51016 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.54823 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.38688 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.38242 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.35628 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2223 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.2082 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10695 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.06601 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.05026 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34039 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.28311 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.29018 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.266 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.43042 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.22621 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.28593 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.32639 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.2569 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.2838 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.30691 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.26597 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.3277 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.43679 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.37284 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20704 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.22057 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34884 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.39253 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.35441 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.36771 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.43087 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.37093 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.37725 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.34024 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.44493 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.38692 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.3607 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.33883 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.34617 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.38558 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30844 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57132 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.47846 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.55933 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.48661 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.53381 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.47825 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.53749 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.54093 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.59654 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.48676 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.50002 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.53565 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.56788 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41072 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.4178 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.3994 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26958 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.23357 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12418 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.07698 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06127 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37801 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.34005 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.32623 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.31374 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.45596 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.26883 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.33463 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.36786 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.29171 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.3307 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.35298 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30481 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.36438 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4614 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40116 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24191 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.26393 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.38206 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.42526 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.39156 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.40077 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.46712 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.41581 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.42014 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.37622 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.4906 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.42924 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.39902 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.3757 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.38337 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.41907 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32822 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58439 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.50216 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.57514 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.50569 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.55175 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.50216 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.5568 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.55396 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.61628 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.51027 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.52267 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.55474 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.58124 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42935 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.44714 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.4314 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3141 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.26164 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14031 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08963 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07302 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40759 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.38778 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.36169 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.35292 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.47193 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.31229 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.3825 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.40008 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.33013 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.37406 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.39359 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34027 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.40037 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47605 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41661 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27261 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.30603 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40698 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.44969 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.4224 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.42708 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.495 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.4536 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.45508 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.40879 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.51889 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.46083 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43248 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4053 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.41484 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.4232 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.33079 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58562 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.50434 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.57657 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.50766 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.55414 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.50468 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.55897 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.55548 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.61793 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.51252 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.5246 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.55641 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.58279 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43167 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.45028 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.43368 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31932 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.26597 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14241 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.0915 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07494 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4102 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.39283 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.36582 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.35684 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.47319 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.31758 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.38758 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.40365 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.33484 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.37836 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.39822 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34363 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.40385 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47714 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41829 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27598 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.3116 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40907 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.45221 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.42557 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.42938 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.49745 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.45697 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.45846 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.41213 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.52112 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.46333 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43541 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.40809 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.41775 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.42585 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.33278 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58651 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.50619 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.57764 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.50916 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.55561 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.50646 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.56036 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.55655 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.61913 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.51423 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.52601 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.55766 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.5837 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43318 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.45255 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.43491 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.32286 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.26994 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14441 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09366 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07698 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41192 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.39567 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.36858 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.35954 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.47396 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.32131 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.39065 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.40593 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.33792 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.38119 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.4009 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34606 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.40623 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47801 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.41971 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27844 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.31543 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41071 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.45383 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.42753 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.4311 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.4989 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.45865 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.46042 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.41416 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.52234 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.46484 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.43745 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.40986 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.41967 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.223 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19136 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.39676 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.30908 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.42677 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.34034 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.38068 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.31832 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.39313 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.40029 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.41595 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.33167 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.3463 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.38023 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.43388 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.23639 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.25522 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.19586 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.09742 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.11168 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.05405 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02848 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.02215 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20079 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.13509 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.16772 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.13077 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.28267 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.10755 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.13291 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.16925 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.14772 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.14204 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.16637 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12916 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.19913 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.30792 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.20869 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.10135 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.10223 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2262 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.24848 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.21671 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.22437 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.27902 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.21688 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.21838 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.21504 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.27621 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.22987 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.21358 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.20239 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.21054 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.357 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30966 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5571 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.4568 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.55321 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.48295 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.52078 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.45505 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.51938 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.54265 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.57373 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.46021 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.48749 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.52205 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.57488 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39333 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.38551 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.36811 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.21098 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.21057 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11183 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.06972 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0554 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34258 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.26341 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.29352 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.25945 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.48831 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.21512 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.27532 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.32291 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.25628 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.26868 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.30349 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25946 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.3295 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45127 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.39343 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20677 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.21027 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.35777 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.39857 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.36369 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.39223 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.43377 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.36302 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.38081 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.35147 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.45005 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.39094 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.37182 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34433 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.35631 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.42294 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.3621 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62261 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.51933 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.61285 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.53658 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.58273 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.51109 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.57895 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.60332 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.63723 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.51735 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.54214 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.572 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.63383 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46864 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.4505 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.46796 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28118 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.25803 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14984 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09654 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07649 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.41948 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.34098 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.36567 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.33441 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.58163 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.27992 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.35452 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.40005 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.32381 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.34452 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.37268 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33759 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.39637 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51523 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.46024 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26563 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.27755 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4333 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.48431 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.44185 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.46372 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.51093 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.44921 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.46386 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.42871 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.52968 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.47988 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.45655 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41697 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.43593 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.52309 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4368 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69387 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.59704 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.67446 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.61075 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.6557 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.59056 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.64303 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.67188 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.70175 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.5949 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.61499 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65106 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.70229 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54749 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.55106 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.58468 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.39949 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.33062 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20461 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.13739 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.1162 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50993 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.46214 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.45998 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.45022 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.67862 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.3836 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.46073 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.4986 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.41519 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.45243 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.48362 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43968 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.49254 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58984 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.53711 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35865 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.38 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53129 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.5792 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.54299 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.56 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.60542 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.56007 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.57171 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.52986 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.64786 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.59192 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.55542 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.51827 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.53718 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.72688 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60504 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79712 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.75789 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.79221 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.74181 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.77812 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.74714 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.76852 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.77703 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.83052 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.74355 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.76906 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78247 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.80503 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70763 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.73588 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.786 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.64436 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.51807 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3331 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.24694 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.2209 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68597 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.69824 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.67405 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.66869 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.84285 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.6139 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.70441 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.68866 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.64489 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.67979 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.70493 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.65621 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.69384 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.70982 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.67271 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.55521 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.60838 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70754 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.74691 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.7361 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.73607 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.77808 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.77206 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.76246 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.72886 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.82582 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.7765 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.75202 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.70143 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.73861 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.80215 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68017 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8332 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.80556 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.82938 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.78611 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.83591 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.80313 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.81379 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.81419 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.86872 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.79341 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.81394 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82657 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.84405 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.7693 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.80101 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.8429 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.7298 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.59656 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39399 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.30001 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.27365 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.74488 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.77745 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.74649 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.73921 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.88604 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.6998 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.78296 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.75507 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.72518 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.75201 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.77916 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.72765 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.75831 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74518 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.73814 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62965 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.70081 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76106 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.80815 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.79809 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.7874 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.8326 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.83768 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.82173 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.79076 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.87341 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.83036 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.80528 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.76113 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.79576 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.94378 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.85975 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.91299 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.9323 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.91148 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.90237 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.94359 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.92046 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.91496 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.90676 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.9592 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.91327 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.91739 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.92984 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.92341 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.90804 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.93832 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.95052 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.91546 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.82254 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.62747 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.52117 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.48318 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.8926 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.92257 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.90066 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.89534 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.97437 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.89291 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.93245 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.89502 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.89269 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.90449 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.91508 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.89704 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.90354 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.87079 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.93292 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.81139 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.88839 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.88273 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.92612 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.92141 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.91337 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.94378 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.94297 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.94086 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.91801 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.9594 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.93675 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.93342 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.89368 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.91708 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.58828 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44043 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68307 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.70665 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.68116 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.66341 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.71909 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68976 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.72542 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.64672 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.79191 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.67232 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.68558 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72247 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.66573 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50439 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.61615 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.45316 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46733 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.40422 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14365 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10347 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0911 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43653 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.50518 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.45892 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.4463 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.42537 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.45743 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.5118 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.48368 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.46137 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.52077 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.54216 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4271 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.51048 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47082 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40681 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38504 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.43604 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48097 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.52101 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.50877 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.50116 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.56857 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.58789 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.55973 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.50489 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.60225 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53961 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.52506 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50854 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.51544 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.37795 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2633 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.37603 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.40173 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.33937 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.35801 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.37752 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.38981 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.37776 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.3312 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.42574 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.37983 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.37708 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.38467 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.33099 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.32333 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.37802 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.33981 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.36422 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.28532 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11358 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.09286 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.07556 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30547 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.40175 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.32766 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.3493 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.27006 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.34897 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.40438 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.36771 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.32904 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.38539 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.38782 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33039 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.35286 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.28102 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.29135 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.29709 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.34138 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31015 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.33435 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.34917 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.34236 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.36802 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.39906 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.39602 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.33636 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.39705 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.37967 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.36366 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34917 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.34592 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.29088 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19495 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.26874 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.29046 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.24116 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.25447 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.26951 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.28358 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.2705 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.23504 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.3025 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.27601 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.26972 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.26726 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.23287 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.24158 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.28609 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.27745 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3004 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.22443 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09632 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.08061 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.06714 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.25046 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.33725 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.26558 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.291 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.20155 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.28903 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.33466 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.29733 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.27053 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.31547 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.30917 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2732 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.27997 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.20599 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.21872 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23975 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.28512 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24466 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.26356 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.27822 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.26141 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.28215 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.32142 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.31077 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.26439 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.30443 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.30194 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.29237 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.27171 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.27495 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.19472 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.12534 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.15789 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.17645 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.14464 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.15733 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.16236 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.17658 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.16162 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.13932 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.17897 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.17247 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.16576 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.16153 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.13813 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.14854 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.18968 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.18786 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.2208 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.15656 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.07203 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.05941 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.05265 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.17237 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.24658 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.18571 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.21009 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.1258 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.20974 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.23599 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.20267 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.18698 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.22249 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.21805 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.18903 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.19205 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.12839 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.13779 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.16794 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.20869 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.16215 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.17066 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.1867 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.17092 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.1827 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.21706 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.20892 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.17919 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.20387 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.20007 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.19591 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.18248 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.18435 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.06022 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03721 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03796 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.04835 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.03761 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.04211 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.04228 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.04926 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.04291 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.03521 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.04574 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.04738 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.04565 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04211 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.03532 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04089 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.05552 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.05344 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07277 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.05433 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02501 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.02252 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0208 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05136 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.0784 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.06038 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.06615 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.03286 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.07166 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.07814 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.06114 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.06408 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.07163 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.06957 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.05928 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.06062 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03303 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.03546 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05319 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.07167 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04638 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.0477 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.05602 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.04925 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.05125 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.06405 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.0618 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.05535 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.05522 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.05652 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.05835 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0533 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.05535 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.03386 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02102 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.02003 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.02611 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.02014 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.02286 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.02327 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.02694 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.0233 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.0189 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.02424 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.02573 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.02455 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02251 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.01902 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02246 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.03057 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.02851 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04117 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.03229 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01468 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.01365 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.01293 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02802 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.04381 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.03418 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.0367 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.01743 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.04108 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.04385 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.0339 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.03657 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.0399 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.03908 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.0329 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.03366 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01748 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.01923 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0299 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.04152 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02517 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.02607 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.03086 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.02671 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.02773 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.03489 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.03394 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.03059 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.02942 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.03034 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.03178 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02915 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.0303 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.0041 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00268 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00225 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.00311 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.00232 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.00272 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.00273 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.00316 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.00271 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.0022 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.00274 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.00303 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.00285 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00259 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.00218 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00267 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.00365 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.00315 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00503 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.00462 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00214 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.0023 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0022 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00328 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.00515 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.00422 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.00441 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.00192 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.00521 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.0052 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.00406 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.00456 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.00477 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.00462 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00397 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.00409 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00198 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.00229 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00374 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.00528 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00293 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.00302 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.00362 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.00317 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.00314 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.00391 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.00392 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.0036 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.00322 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.00341 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.00371 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0034 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.00354 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.58828 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44043 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68307 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.70665 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.68116 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.66341 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.71909 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.68976 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.72542 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.64672 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.79191 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.67232 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.68558 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72247 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.66573 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50439 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.61615 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.45316 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46733 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.40422 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14365 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.10347 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.0911 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43653 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.50518 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.45892 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.4463 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.42537 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.45743 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.5118 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.48368 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.46137 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.52077 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.54216 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4271 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.51048 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47082 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.40596 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38504 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.43604 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48097 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.52101 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.50877 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.50116 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.56857 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.58789 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.55973 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.50489 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.60225 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.53961 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.52506 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50854 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.51544 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.6727 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50517 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73601 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.76204 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.72959 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.72614 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.77244 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.74034 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.7781 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.70667 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.83824 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.72226 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.73958 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77034 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.72753 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56662 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.68346 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.5443 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.549 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.47411 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18263 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.14291 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.12446 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50503 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.58696 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.54589 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.53205 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.51539 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.53463 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.60066 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.56565 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.54697 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.59193 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.62179 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.50405 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.58821 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52116 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.4756 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46295 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.51716 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.55259 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.59447 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.59686 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.59319 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.63485 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.66014 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.64159 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.59055 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.67205 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.62706 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.60858 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58661 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.59963 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.6854 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51637 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74422 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.76808 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.74155 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.73511 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.78051 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.74809 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.7852 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.71639 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.84412 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.72975 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.74737 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77465 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.73704 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58195 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.69503 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.56192 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5653 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.49062 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19304 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.15373 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.13433 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51896 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.60227 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.56266 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.54693 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.53579 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.55025 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.61622 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.58053 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.5655 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.60214 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.63437 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.52297 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.60249 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53141 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.48403 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.47718 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.5339 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56704 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.61197 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.61177 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.60688 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.64681 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.67403 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.65494 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.60748 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.68249 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.6404 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.62628 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60031 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.61494 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.69216 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52535 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7485 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.77267 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.74588 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.73939 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.78492 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75413 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.78818 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.72199 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.84622 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.73477 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.7521 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77927 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.74313 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5899 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.70324 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.57041 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57696 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.50194 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20073 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.16385 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14256 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52821 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.61246 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.5724 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.55697 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.54597 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.56287 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.62524 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59027 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.57554 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.61289 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.64293 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.53292 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.61206 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53786 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.48986 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48798 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.54486 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57729 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.61962 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.62081 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.61548 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.65394 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.68154 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.66318 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.6159 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.69007 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.64819 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.63301 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60884 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.62187 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.69595 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53096 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7506 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.77551 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.74878 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.74191 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.78635 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75708 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.79006 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.72478 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.84744 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.73752 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.75483 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78164 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.74526 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59478 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.70668 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.57463 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58271 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.50887 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20606 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17043 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14908 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53386 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.61786 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.57822 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.56353 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.5516 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.5687 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.62972 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59474 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.58147 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.61846 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.648 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.53878 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.61688 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54182 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.49445 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49433 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.55131 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58221 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.62415 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.6256 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.62051 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.65819 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.68585 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.66724 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.6205 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.69365 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.65179 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.63772 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61344 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.62703 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.69614 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53153 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75083 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.77571 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.74898 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.74207 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.78664 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.75727 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.79025 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.72497 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.84758 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.73771 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.75504 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78189 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.74547 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59526 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.70701 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.57507 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58296 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.50945 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20693 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.1713 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.14987 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53436 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.61814 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.57854 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.56382 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.55201 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.56918 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.63004 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59508 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.58184 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.61881 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.64827 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.53927 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.61728 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5422 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.49523 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49485 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.55172 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58265 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.62455 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.62588 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.62079 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.65856 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.68609 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.66745 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.62078 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.69391 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.65207 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.63788 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61371 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.62731 } ] }, { "config": { "retrieval_model": "jina-embeddings-v3", "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v3", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-10-23T15:31:21Z", "is_anonymous": false, "revision": "d368a1db8c28066b768ab211529b22aa" }, "results": [ { "domain": "science", "lang": "ru", "dataset": "default", "value": 0.69626 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53183 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75095 }, { "domain": "wiki", "lang": "ko", "dataset": "default", "value": 0.77582 }, { "domain": "wiki", "lang": "es", "dataset": "default", "value": 0.74906 }, { "domain": "wiki", "lang": "ja", "dataset": "default", "value": 0.7422 }, { "domain": "wiki", "lang": "bn", "dataset": "default", "value": 0.78675 }, { "domain": "wiki", "lang": "fa", "dataset": "default", "value": 0.7574 }, { "domain": "wiki", "lang": "id", "dataset": "default", "value": 0.79039 }, { "domain": "wiki", "lang": "de", "dataset": "default", "value": 0.72509 }, { "domain": "wiki", "lang": "hi", "dataset": "default", "value": 0.84767 }, { "domain": "wiki", "lang": "ar", "dataset": "default", "value": 0.7379 }, { "domain": "wiki", "lang": "ru", "dataset": "default", "value": 0.75517 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78205 }, { "domain": "wiki", "lang": "fr", "dataset": "default", "value": 0.74558 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59552 }, { "domain": "healthcare", "lang": "es", "dataset": "default", "value": 0.70713 }, { "domain": "healthcare", "lang": "de", "dataset": "default", "value": 0.57531 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58315 }, { "domain": "healthcare", "lang": "fr", "dataset": "default", "value": 0.50971 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20776 }, { "domain": "law", "lang": "de", "dataset": "default", "value": 0.17205 }, { "domain": "law", "lang": "fr", "dataset": "default", "value": 0.15065 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53468 }, { "domain": "news", "lang": "ko", "dataset": "default", "value": 0.61829 }, { "domain": "news", "lang": "es", "dataset": "default", "value": 0.57874 }, { "domain": "news", "lang": "ja", "dataset": "default", "value": 0.56405 }, { "domain": "news", "lang": "bn", "dataset": "default", "value": 0.55229 }, { "domain": "news", "lang": "fa", "dataset": "default", "value": 0.56939 }, { "domain": "news", "lang": "id", "dataset": "default", "value": 0.63018 }, { "domain": "news", "lang": "de", "dataset": "default", "value": 0.59527 }, { "domain": "news", "lang": "hi", "dataset": "default", "value": 0.58201 }, { "domain": "news", "lang": "ar", "dataset": "default", "value": 0.61901 }, { "domain": "news", "lang": "ru", "dataset": "default", "value": 0.64843 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5396 }, { "domain": "news", "lang": "fr", "dataset": "default", "value": 0.61752 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54259 }, { "domain": "finance", "lang": "ar", "dataset": "default", "value": 0.49584 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49522 }, { "domain": "finance", "lang": "fr", "dataset": "default", "value": 0.55192 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58284 }, { "domain": "web", "lang": "ko", "dataset": "default", "value": 0.62472 }, { "domain": "web", "lang": "es", "dataset": "default", "value": 0.62602 }, { "domain": "web", "lang": "ja", "dataset": "default", "value": 0.62095 }, { "domain": "web", "lang": "bn", "dataset": "default", "value": 0.65873 }, { "domain": "web", "lang": "fa", "dataset": "default", "value": 0.68619 }, { "domain": "web", "lang": "id", "dataset": "default", "value": 0.66762 }, { "domain": "web", "lang": "de", "dataset": "default", "value": 0.62096 }, { "domain": "web", "lang": "hi", "dataset": "default", "value": 0.69403 }, { "domain": "web", "lang": "ar", "dataset": "default", "value": 0.65223 }, { "domain": "web", "lang": "ru", "dataset": "default", "value": 0.63806 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61394 }, { "domain": "web", "lang": "fr", "dataset": "default", "value": 0.62744 } ] } ]