diff --git a/AIR-Bench_24.05/ inf-retriever-v1-1.5b/bge-reranker-v2-m3/results_20250221025423-f9d130afc029f26c5a1209daf5e44e4f.json b/AIR-Bench_24.05/ inf-retriever-v1-1.5b/bge-reranker-v2-m3/results_20250221025423-f9d130afc029f26c5a1209daf5e44e4f.json new file mode 100644 index 0000000000000000000000000000000000000000..d3542a9992732edfadcd02ca926526c7bd2c8092 --- /dev/null +++ b/AIR-Bench_24.05/ inf-retriever-v1-1.5b/bge-reranker-v2-m3/results_20250221025423-f9d130afc029f26c5a1209daf5e44e4f.json @@ -0,0 +1,11657 @@ +[ + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79928 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.86069 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82515 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81742 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86985 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82502 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8068 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8386 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.81181 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77635 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.83743 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84497 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83467 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72661 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75702 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.7075 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73301 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.7182 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.7579 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70498 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73604 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.7272 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74721 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71581 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72235 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77065 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.71873 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.75974 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.63255 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.76428 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.69456 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.77219 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64009 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48059 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.71848 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.72478 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.77816 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.71916 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.79794 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.75104 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.70333 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.70588 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.6142 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.64539 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56173 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34146 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43789 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.31838 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.82706 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.60319 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.73693 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55836 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74452 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74343 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.7296 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76468 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7705 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73062 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77053 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72992 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.72501 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72827 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73596 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74314 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75111 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67672 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.68379 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.64009 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67752 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65663 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6995 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.674 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66664 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6719 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.68673 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67643 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67772 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.70604 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64846 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.65923 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.57282 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.70127 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59229 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.69839 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61176 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47707 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65829 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65889 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.7143 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65325 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72539 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.68071 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61709 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.64831 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57859 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.6217 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52139 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29486 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40396 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28354 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.74808 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.5414 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.68457 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57972 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51534 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75409 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.73682 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74704 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77133 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77152 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73015 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78827 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73122 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.71872 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74329 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73909 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74248 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75395 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67429 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66597 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63619 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67405 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65364 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6942 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.67639 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65976 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66455 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6743 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68147 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68011 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69854 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.63518 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60782 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.56399 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.67924 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54653 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67193 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61014 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48299 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63017 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.63947 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6905 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.63101 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.70365 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.68016 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57715 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.62931 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59084 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.62967 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52967 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28776 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40732 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27722 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.74125 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.52553 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.66665 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59691 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5344 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.77869 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75678 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77667 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.79132 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78997 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.75619 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81002 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74661 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74359 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76464 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.76748 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76552 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.77598 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.69554 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.68318 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.6649 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.69978 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.66828 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.71406 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70528 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67234 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.69258 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.69676 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71234 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.70391 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72074 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64904 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.58781 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.5951 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.68905 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52578 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67724 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.63492 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.49412 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63741 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65008 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.69324 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64367 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69818 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.70923 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59207 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.62449 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62882 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65779 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56803 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30098 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43022 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29256 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.76502 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55391 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.66259 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61788 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.56598 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79302 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.77155 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79771 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.80961 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80308 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.77677 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82124 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.75939 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.76167 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77806 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78702 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.7847 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78766 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72605 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70894 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.70358 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73413 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68508 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.74458 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.72925 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68821 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.72425 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72758 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73732 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73157 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75128 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.6797 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61325 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64512 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72347 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54064 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.71052 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67426 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50025 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.67701 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.68407 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.7356 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.68936 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72826 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.73323 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.6557 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.65045 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.66703 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.68997 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60643 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.3349 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.46269 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.32528 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.78618 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59252 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69182 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64564 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.59176 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79366 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.772 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79829 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81026 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80383 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.7778 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82211 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.75958 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.76246 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77838 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78814 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78584 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78857 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72774 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70973 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.70602 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73577 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68573 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.74585 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.73135 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68882 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.72575 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72861 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73909 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73306 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75272 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68073 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61437 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64854 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72473 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54134 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.7128 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67837 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50052 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.67872 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.68559 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.73767 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.69117 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.7297 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.73548 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65987 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.65224 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.67038 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.69221 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.61007 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.33751 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.46662 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.32795 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.78743 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59551 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69348 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6507 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5978 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79366 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.772 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79829 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81026 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80383 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.7778 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82211 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.75958 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.76246 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77838 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78814 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78584 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78857 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72774 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70973 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.70602 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73577 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68573 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.74585 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.73135 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68882 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.72575 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72861 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73909 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73306 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.75272 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68073 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61437 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64854 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72473 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54134 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.7128 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67837 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50052 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.67872 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.68559 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.73767 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.69117 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.7297 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.73548 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65987 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.65224 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.67038 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.69221 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.61007 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.33751 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.46662 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.32795 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.78743 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59551 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69348 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6507 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5978 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.49568 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.39673 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.43296 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.52634 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.45922 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41575 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.47094 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43904 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.40033 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.47383 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.3753 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43681 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.44753 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.30409 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.27268 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.27615 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.29733 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31696 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.31021 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.33402 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.34577 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.30589 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31336 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.33958 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.32213 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.29579 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.23961 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.16976 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19228 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.27442 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19564 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.23101 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2846 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30541 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.1898 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.24264 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19801 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.2045 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.2043 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.2882 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.15001 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.16566 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.2732 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.27334 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.24323 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09882 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19213 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09087 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.29017 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16016 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.16908 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.348 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.26758 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63074 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.55805 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59581 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66006 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62569 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57564 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66569 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.5868 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.55196 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.62289 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55963 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.5906 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.60083 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45922 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.44432 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44028 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.46473 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.47811 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47574 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50001 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49664 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4702 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.46881 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51018 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.49018 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46892 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39025 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32472 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34308 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44014 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32066 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40338 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43775 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.40623 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35805 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40907 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.38055 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.37428 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.38792 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45542 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30298 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32808 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44104 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44143 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37455 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16295 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28954 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.15871 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47949 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30231 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34391 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49415 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42375 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67369 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.62141 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65541 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70003 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68195 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.63164 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7236 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.63936 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6109 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66597 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62957 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64343 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.65769 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53315 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52098 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50728 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.54044 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.54077 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55394 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56543 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55091 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53889 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.53655 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57585 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55639 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55081 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.4685 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40192 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41704 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51418 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37577 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.4907 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.49759 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.42993 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44461 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.48509 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48295 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45965 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49265 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.53569 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38414 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42316 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49205 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.51285 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.42606 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19524 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32597 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18826 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58072 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.37408 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.45189 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53473 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47093 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70888 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67024 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.69284 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72608 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71644 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.67513 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75399 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66834 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.66126 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.69319 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68004 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.68487 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69979 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59706 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.58329 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.56729 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60347 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58452 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.61967 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62047 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.59045 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.59919 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60038 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62624 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.60756 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62332 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53891 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.47071 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48533 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5864 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41903 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57095 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55465 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.44396 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52624 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.55134 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58338 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53719 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.59071 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.60538 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.46499 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.50763 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53137 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56773 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46881 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2279 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36074 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21672 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.66442 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43953 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.5557 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56088 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50682 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7175 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67945 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70525 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73648 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72418 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6877 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75923 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.6757 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67337 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70068 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69213 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69678 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70749 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61668 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.60146 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59149 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62502 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.59559 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63996 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63496 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.59996 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61833 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62025 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64021 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62472 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64448 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56052 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48889 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51543 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.4293 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.59456 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57896 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.44656 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.55387 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57382 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.61547 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56895 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61462 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61938 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.50584 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52561 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54954 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58667 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48741 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24431 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37744 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23235 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.67906 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.464 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.5797 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57362 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51674 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71758 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67954 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70538 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73659 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72428 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68791 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75936 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67572 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67352 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70076 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69232 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69697 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70766 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61704 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.60161 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59199 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62538 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.59573 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64027 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63535 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.60008 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61861 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62049 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64053 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62505 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64477 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56078 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48915 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51612 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61026 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42942 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.59508 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57969 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.4466 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.55425 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57419 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.61597 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56934 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61502 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61975 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.50687 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52607 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55008 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58707 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48794 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24474 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37803 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23283 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.67932 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46459 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58011 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57413 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51742 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71758 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67954 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70538 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73659 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72428 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68791 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75936 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67572 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67352 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70076 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69232 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69697 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70766 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61704 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.60161 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59199 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62538 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.59573 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64027 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63535 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.60008 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61861 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62049 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64053 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62505 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64477 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56078 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48915 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51612 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61026 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42942 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.59508 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57969 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.4466 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.55425 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.57419 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.61597 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56934 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61502 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61975 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.50687 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52607 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55008 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58707 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48794 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24474 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37803 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23283 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.67932 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46459 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58011 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57413 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51742 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.49568 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.39673 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.43296 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.52634 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.45922 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41575 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.47094 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43904 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.40033 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.47383 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.3753 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43681 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.44753 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.30409 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.27268 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.27615 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.29733 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31696 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.31021 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.33402 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.34577 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.30589 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.31336 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.33958 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.32213 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.29579 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.23961 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.16976 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19228 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.27442 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19564 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.23101 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2846 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30541 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.1898 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.24264 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19801 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.2045 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.2043 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.2882 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.15001 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.16566 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.2732 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.27334 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.24323 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09882 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19213 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09087 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.29017 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16016 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.16908 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.348 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.26758 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66756 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5828 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63674 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70008 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.65442 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60687 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.70615 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.6149 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58318 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67046 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59241 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.62169 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.63685 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.50291 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.47769 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.48229 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5048 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51883 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.51328 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.55136 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52993 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51324 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50638 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55902 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54839 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.50493 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43045 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.34487 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.37951 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47669 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.34354 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.43355 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47718 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.45442 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.39034 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44342 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40785 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40808 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41462 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.50258 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.33105 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.36144 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.50117 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49858 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43011 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1874 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32389 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18533 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.51675 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3414 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.37112 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55411 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46825 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7418 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.67614 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.73905 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76805 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.73658 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.69283 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79527 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69693 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.66911 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74614 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69791 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70178 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.72443 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61507 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.58873 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58708 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.61803 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.61227 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62813 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6516 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61222 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.61341 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60682 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66095 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65211 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62304 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5436 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.44513 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4963 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.58095 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41878 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55062 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56681 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50086 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50829 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.5498 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.54187 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.52537 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.54984 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.62664 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.4465 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49462 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5978 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61669 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52446 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24354 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38873 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24058 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.65602 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4534 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51125 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.63042 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.55134 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.81757 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.76568 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.81961 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82735 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80199 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.7788 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85477 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.75695 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.76558 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.81288 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.79481 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78458 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80105 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73382 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.69929 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.70551 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73717 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.69474 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.74488 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.75859 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68979 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.7296 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72452 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.76456 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.75207 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.74848 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.66899 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.55263 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.63028 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.70317 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48938 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67816 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.67862 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.53573 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.64256 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66303 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.69271 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65377 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69005 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.75242 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59487 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.63107 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.70617 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.72222 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64035 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31482 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.46788 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30959 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.79201 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.66114 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69468 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.63451 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.85666 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.80483 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87743 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.87742 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.838 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.83385 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.89071 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79217 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.81345 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.84935 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.84628 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.83451 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83151 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81255 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.76297 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.80595 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.82634 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73926 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.82146 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.82388 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73363 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.81602 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.80268 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.83229 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.82583 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.82348 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.74313 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61257 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.76051 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.78728 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52391 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.7576 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.78387 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55652 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.73829 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.74686 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.79342 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.76462 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.76062 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82049 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.74848 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.69675 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.82258 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.81459 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.75519 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.40181 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.55927 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.39473 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.84619 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.67748 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.73029 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.78839 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.72783 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.86011 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.8067 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87981 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88032 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.84171 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.83816 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.895 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79299 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.81681 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.85048 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.85167 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.83968 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.835 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81947 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.76617 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.81667 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.8327 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74203 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.82594 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.83294 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73631 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.82293 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.80645 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.83992 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.83154 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.82939 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.74665 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61638 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.7741 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7922 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52638 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.76647 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.80236 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55796 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.74529 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.7525 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.80118 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.77153 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.76544 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.8311 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.7639 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.7033 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.83849 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.82526 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.77334 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.41234 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.57755 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.4052 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.85118 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.69026 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.73611 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.81824 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.76211 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.86011 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.8067 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87981 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88032 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.84171 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.83816 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.895 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79299 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.81681 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.85048 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.85167 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.83968 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.835 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81947 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.76617 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.81667 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.8327 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74203 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.82594 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.83294 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73631 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.82293 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.80645 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.83992 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.83154 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.82939 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.74665 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61638 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.7741 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7922 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52638 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.76647 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.80236 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55796 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.74529 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.7525 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.80118 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.77153 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.76544 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.8311 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.7639 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.7033 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.83849 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.82526 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.77334 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.41234 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.57755 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.4052 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.85118 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.69026 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.73611 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.81824 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.76211 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79928 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.86069 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82515 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81742 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86985 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82502 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8068 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8386 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.81181 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77635 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.83743 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84497 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83467 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72661 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75702 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.7075 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73301 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.7182 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.7579 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70498 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73604 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.7272 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74721 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71581 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72235 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77065 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.71873 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.75974 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.63255 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.76428 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.69456 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.77219 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64009 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48059 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.71848 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.72478 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.77816 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.71916 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.79794 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.75104 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.70333 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.70588 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.6142 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.64539 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56173 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34146 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43789 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.31838 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.82706 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.60319 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.73693 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55836 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.44614 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.52987 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.48512 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.4389 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.51373 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.49829 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.49879 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.48054 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50332 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.43898 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.54239 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.49767 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.49527 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51998 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55662 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5021 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.52963 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.49028 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54074 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49097 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.47737 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51644 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.52514 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49351 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5009 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55949 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53368 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.59861 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.49681 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5664 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50691 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.60059 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45898 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.283 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.58429 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54575 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64409 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.57039 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65044 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.53872 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.56889 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.58723 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43338 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.47698 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3923 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25179 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30164 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24771 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.61553 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48569 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62912 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.35883 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.36227 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.32493 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.40648 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.36443 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.31348 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.37853 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.37403 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.36469 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.35659 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.38539 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.3188 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.41835 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.36969 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.37174 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42383 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.44564 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39911 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.42855 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.38032 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.4404 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.38521 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.36444 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40732 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41732 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.38533 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.39505 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.45855 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44574 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.49206 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41237 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.45597 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.401 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49882 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.36378 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49198 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4451 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.55494 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47649 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56121 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44063 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47693 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51222 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.32811 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.38501 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30686 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21004 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23692 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20463 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.51433 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.40471 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.55752 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.26514 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.27574 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.19609 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.2494 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.21689 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.18209 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.22 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.22884 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.20832 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.2057 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.2417 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.18397 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.25585 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.22423 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.22462 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.27507 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.28545 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.26132 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.2766 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.23212 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.28581 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.24495 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.22068 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26136 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.27277 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.2395 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.24671 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.30184 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2997 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32208 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27857 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.3039 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.24785 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.33351 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.24211 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.11225 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33381 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.29177 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.381 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.31981 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.38193 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.28684 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.33087 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.34548 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.203 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.24441 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.1961 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14605 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15517 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13878 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.33553 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.27244 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.38729 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.15773 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.17055 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.04267 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.05342 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.0479 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.04038 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04696 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.05061 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.04381 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04394 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.0529 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03983 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.05575 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.0494 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04771 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.06275 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.0639 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.06197 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.06384 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.0504 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.06512 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.05445 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.0479 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.05978 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.06232 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.05377 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.0561 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.06872 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.06873 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07221 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.06837 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.07022 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.05398 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.07661 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05858 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.02343 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.07848 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.0677 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.08907 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.07642 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.08566 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.06306 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.08401 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.07674 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04816 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05571 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04728 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03825 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.03888 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03628 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.07258 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.06436 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.08705 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03647 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.0383 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.02139 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02678 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02403 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.02027 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02357 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02545 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.022 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.022 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02657 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01998 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02801 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02485 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02401 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.03164 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03208 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.03134 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.03219 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02528 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.0328 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02752 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02404 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.03008 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.03135 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02713 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02831 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03459 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03457 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03633 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03474 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03534 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02712 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.03871 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02987 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01174 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.03951 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.03412 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.04491 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03852 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04313 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03182 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04275 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03873 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02447 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02813 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02403 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01956 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01991 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01859 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.03649 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.03261 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.04386 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0186 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01963 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00214 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.0024 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00203 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00236 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00255 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.0022 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0022 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00266 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.002 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.0028 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00248 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.0024 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00316 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00321 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00313 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00253 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00328 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.0024 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00313 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00271 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00283 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00346 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00346 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00363 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00347 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00353 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00271 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00387 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00299 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00117 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00395 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00341 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00449 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00385 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00431 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00318 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00428 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00387 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00245 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00281 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.0024 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00196 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00199 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00186 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00365 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00326 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00439 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00186 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00196 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79928 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.86069 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.82515 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.81742 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86985 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.82502 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8068 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8386 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.81181 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.77635 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.83743 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.84497 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83467 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72661 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75702 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.7075 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73301 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.7182 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.7579 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70498 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73604 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.7272 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74721 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71581 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72235 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.77065 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.71873 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.75974 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.63255 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.76428 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.69456 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.77219 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64009 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48059 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.71848 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.72478 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.77816 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.71916 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.79794 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.75104 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.70333 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.70588 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.6142 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.64539 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56173 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34075 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43789 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.31838 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.82706 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.60319 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.73612 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55836 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51745 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.8494 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.89157 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.86892 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86166 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90257 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.86204 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8513 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86973 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85055 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83155 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87777 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.87849 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.8757 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.79654 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.81007 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.7659 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.7949 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.77009 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.81457 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.77526 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.78406 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.79273 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.80866 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.78571 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.80059 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.82829 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.78559 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.80664 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.70545 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.82393 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.74475 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.82483 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70137 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.53451 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.78415 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.78054 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.83736 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.78193 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.85226 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.81529 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.76778 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.77929 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.69546 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.72045 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64284 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.39443 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.49167 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.38181 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88121 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.68421 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.79552 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.62395 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.57816 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.85447 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.89416 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87447 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86619 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90342 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.86686 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85568 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.8741 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.8541 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83632 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.882 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.8824 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.87956 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.80327 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.81683 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.77414 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80097 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.77659 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.82228 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.78265 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.78912 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.79785 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.81505 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.79213 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.80705 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.83493 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.79318 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.8114 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.71723 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.82867 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.74973 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.83086 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.7093 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.54163 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79048 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.78636 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84352 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.78813 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.85661 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82154 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.77608 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.78736 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.70706 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.72975 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.65313 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.40634 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.5017 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.39509 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88429 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.69564 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.80417 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6312 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.58599 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.85589 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.89553 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87601 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86763 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90482 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.86835 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85664 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.87572 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85604 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83903 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88305 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.8838 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.88072 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.806 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.81899 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.77778 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80502 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.77891 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.82519 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.78541 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.79131 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.80105 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.8173 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.7954 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.80938 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.83694 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.7963 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.81375 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72261 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.8319 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75153 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.83323 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.71488 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.54324 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79345 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.78887 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84512 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.79059 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.85775 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82372 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.78025 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.78945 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71272 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.73246 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.66003 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.41294 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.50603 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.40205 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88545 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70037 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.80665 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6349 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.58966 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.85635 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.8958 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87648 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86853 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90536 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.86906 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85727 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.87598 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85651 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83944 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88378 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.88397 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.88094 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.80711 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.81958 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.77928 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80609 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.77958 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.82564 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.78667 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.79213 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.80221 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.81839 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.79633 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.81006 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.83748 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.79716 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.81444 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72464 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.8329 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75221 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.83388 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.71679 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.54387 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79458 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79024 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84596 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.79145 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.8582 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.825 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.78179 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.79011 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71522 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.734 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.66243 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.41674 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.5086 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.40539 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88612 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70168 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.80709 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.63809 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.59266 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.8564 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.89582 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87648 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86855 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90539 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.86907 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8573 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.876 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85652 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83945 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88382 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.88401 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.88096 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.80714 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.8196 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.77936 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80613 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.77959 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.82565 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.78671 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.79215 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.80227 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.81839 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.7964 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.81009 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.83752 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.79717 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.81446 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72471 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.83293 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75224 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.83391 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.71695 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.54389 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79462 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79026 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84599 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.79152 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.8582 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82507 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.78183 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.79015 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71536 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.73408 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.66266 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.41687 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.50883 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.40547 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88616 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70172 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.80711 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.63847 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.59309 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "bge-reranker-v2-m3", + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2025-02-21T02:54:23Z", + "is_anonymous": false, + "revision": "f9d130afc029f26c5a1209daf5e44e4f" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.8564 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.89582 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87648 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86855 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90539 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.86907 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.8573 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.876 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.85652 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.83945 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.88382 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.88401 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.88096 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.80714 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.8196 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.77936 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80613 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.77959 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.82565 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.78671 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.79215 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.80227 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.81839 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.7964 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.81009 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.83752 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.79717 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.81446 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72471 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.83293 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.75224 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.83391 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.71695 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.54389 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79462 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.79026 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.84599 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.79152 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.8582 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82507 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.78183 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.79015 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71536 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.73408 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.66266 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.41687 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.50883 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.40547 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.88616 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70172 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.80711 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.63847 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.59309 + } + ] + } +] \ No newline at end of file diff --git a/AIR-Bench_24.05/ inf-retriever-v1-1.5b/jina-reranker-v2-base-multilingual/results_20250221025528-5303cd588e5d240059ded77bdd9b71e4.json b/AIR-Bench_24.05/ inf-retriever-v1-1.5b/jina-reranker-v2-base-multilingual/results_20250221025528-5303cd588e5d240059ded77bdd9b71e4.json new file mode 100644 index 0000000000000000000000000000000000000000..16813687b2acb64866303c305423770789747c81 --- /dev/null +++ b/AIR-Bench_24.05/ inf-retriever-v1-1.5b/jina-reranker-v2-base-multilingual/results_20250221025528-5303cd588e5d240059ded77bdd9b71e4.json @@ -0,0 +1,11657 @@ +[ + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.84348 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84488 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.85119 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86517 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87721 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.81135 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.89146 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.83173 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78303 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79772 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87066 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.82123 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86235 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.75439 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71861 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.6533 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73988 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.66901 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.69082 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.77379 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70296 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6435 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71927 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73644 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.69451 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.74484 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68172 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.671 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.65169 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72523 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.61302 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67234 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.68576 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50906 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.64255 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66246 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.72979 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.67344 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.75147 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.73439 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.62733 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.63952 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.65007 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65788 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.69892 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29914 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.5052 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27786 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73444 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.60111 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.61464 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67429 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46128 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76352 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71754 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74056 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78874 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75481 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.70348 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.83851 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71552 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68173 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73246 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74064 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70841 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75853 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.66939 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62879 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59053 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65003 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60264 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6232 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71399 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6319 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.57603 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6394 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65543 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62518 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.67499 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59004 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.56669 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.56477 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63963 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50958 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.58075 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64658 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47561 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.5581 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.5991 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63938 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58945 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66664 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.62875 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.53464 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54874 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57708 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61561 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60694 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2568 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.44287 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24152 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.62885 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.52632 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.53179 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65645 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46501 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76345 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70475 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74376 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78403 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74875 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.69291 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.84113 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.70794 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67332 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7395 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72852 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70619 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.74694 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65369 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.61595 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58436 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63287 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.59897 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.61325 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.71125 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62333 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.57432 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62363 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65012 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62473 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65593 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56946 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.52527 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.55348 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.61775 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.47501 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55714 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64543 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47725 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53044 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58356 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.60586 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56169 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.63176 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61181 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.4927 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51206 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5779 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61517 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60604 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2501 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.44022 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23844 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6122 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.50558 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.49816 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.66668 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48497 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78233 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.72443 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77451 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.79847 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.76931 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71914 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.85457 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72731 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6939 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76147 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74839 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.72969 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76553 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67166 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63809 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61104 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65397 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.62226 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63431 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.73183 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.63801 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60626 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.64668 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.6754 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64933 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.67477 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5882 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51776 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.58162 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63249 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46794 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57229 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.66432 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.49277 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.54595 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59886 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.61216 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58002 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.63089 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63743 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.5101 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51137 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60657 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65014 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.63501 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26078 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.45895 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25534 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63794 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53398 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.49665 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.68343 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51702 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80442 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75228 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80054 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82304 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79285 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.75442 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86291 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74845 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.73337 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.78057 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78295 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76126 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78775 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.71972 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.67882 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66706 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.70716 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65205 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.69294 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.75606 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66614 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66611 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.69807 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71591 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.69856 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.7257 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64417 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.56567 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.63693 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.68551 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50063 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64265 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70011 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50397 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.61878 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.64937 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68059 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64756 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69008 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69614 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59713 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.58023 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.65115 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.68859 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.6681 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.3054 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.49017 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29898 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.70696 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58022 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.57454 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.70612 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.56026 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80531 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75385 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80171 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82557 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7942 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.75698 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86376 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74902 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.73522 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.78168 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78679 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.764 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7897 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72263 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.68058 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67281 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.7146 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65344 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.69735 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.75876 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66758 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66945 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.7011 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.7244 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.70256 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72853 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64826 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.56828 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64324 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.69208 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50188 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64738 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70291 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50457 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.62303 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65326 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68976 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65223 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69265 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69994 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60647 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.5913 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.66204 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.6909 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.67032 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31247 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.49328 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.3038 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.7114 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58432 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59569 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.70909 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.56528 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.80531 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75385 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80171 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82557 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7942 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.75698 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86376 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74902 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.73522 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.78168 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.78679 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.764 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7897 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72263 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.68058 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67281 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.7146 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65344 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.69735 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.75876 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66758 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66945 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.7011 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.7244 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.70256 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72853 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64826 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.56828 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.64324 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.69208 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50188 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64738 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70291 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50457 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.62303 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65326 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.68976 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65223 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69265 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.69994 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60647 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.5913 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.66204 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.6909 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.67032 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31247 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.49328 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.3038 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.7114 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58432 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59569 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.70909 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.56528 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_1", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.52343 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.39301 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.4508 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57271 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.47036 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41705 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.5224 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43678 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.39511 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.49927 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.40102 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43326 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.46763 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.32833 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26379 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.26764 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.31521 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.30161 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.29533 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.37971 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3385 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.27899 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.312 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.36726 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.33147 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.29607 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.248 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.15313 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20474 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.28209 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.17738 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.20935 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.31291 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33284 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.17765 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.2356 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19127 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.19943 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.19873 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29518 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.13169 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.17053 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.29407 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.29261 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32005 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09619 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2278 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08365 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.26633 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16191 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.1567 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.43862 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.24535 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_3", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65768 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5395 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61001 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6983 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.61628 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.55937 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74232 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.57779 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52256 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63337 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.57606 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56548 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6141 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.46845 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.40694 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.41034 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.45841 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.43704 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.4293 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54528 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.47376 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40388 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.44383 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.51131 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.46393 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.45228 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36827 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.27446 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34733 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.41577 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.27643 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.33427 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47476 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.41332 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.30273 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.38137 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3443 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.34099 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.35885 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.42351 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.25339 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.29138 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44694 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44706 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46156 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14813 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32521 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13862 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.39734 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29482 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.27729 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57804 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38501 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_5", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69149 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59095 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6565 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72572 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.65895 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.59985 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79245 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61847 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56837 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66773 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62881 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.61002 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.65551 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.52338 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.4738 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46413 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.51204 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.48899 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.4831 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61019 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.51783 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45506 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.49503 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55873 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51272 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.51511 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42275 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.3349 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41632 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47163 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.31976 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.39407 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53736 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.43212 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.36388 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44472 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42017 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40462 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.43646 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47517 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31421 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3422 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48847 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.50773 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50865 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17291 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36205 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16259 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.45863 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.36002 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.33293 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61509 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42356 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_10", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71923 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63292 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.69385 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.7449 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.69063 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.63666 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81615 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.64765 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60593 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.6926 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6658 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64731 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69099 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57495 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.53053 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.51477 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.55919 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.533 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53374 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65754 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55346 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50341 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.54611 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.59582 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.554 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57346 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47853 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39474 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.47896 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53032 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35844 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.45619 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59252 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.44673 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42902 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50108 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49772 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47037 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.51465 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.52475 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38156 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39367 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51849 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56279 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54662 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19703 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39449 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18672 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.51557 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.42272 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.38543 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.63984 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45375 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_50", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73163 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64942 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70791 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75702 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7039 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.65528 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82041 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65925 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62848 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7024 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68453 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66436 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70382 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60332 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55595 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54512 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58727 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.54971 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56676 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.67234 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56937 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53519 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5759 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61606 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.57987 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60473 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51174 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42414 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.50932 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.56152 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37733 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49766 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61507 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.4514 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47115 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.53076 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.54075 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51065 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55445 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55675 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43003 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.43132 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53708 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58417 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56367 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21597 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41097 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2053 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55549 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.44983 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.42808 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65067 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47069 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_100", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7318 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64968 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70817 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75754 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.70415 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.65577 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82057 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65937 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62886 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70262 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68528 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66485 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70421 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60399 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55637 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54633 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58886 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.54999 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56777 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.67288 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56963 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53589 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57654 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61756 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58069 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60541 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51261 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42473 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51049 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.56283 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37758 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49875 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61555 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.45148 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47217 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.53151 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.54283 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51174 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55518 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55753 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43209 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.43362 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53883 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58458 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56399 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21718 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.4114 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20607 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55656 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45058 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.43266 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65101 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4714 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7318 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64968 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.70817 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75754 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.70415 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.65577 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82057 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65937 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62886 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70262 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68528 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66485 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70421 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60399 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55637 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54633 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58886 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.54999 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56777 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.67288 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56963 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53589 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57654 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61756 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58069 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60541 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51261 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42473 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.51049 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.56283 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37758 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49875 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61555 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.45148 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47217 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.53151 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.54283 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51174 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.55518 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55753 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43209 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.43362 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53883 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58458 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56399 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21718 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.4114 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20607 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55656 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45058 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.43266 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65101 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4714 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.52343 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.39301 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.4508 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57271 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.47036 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41705 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.5224 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.43678 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.39511 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.49927 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.40102 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.43326 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.46763 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.32833 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26379 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.26764 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.31521 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.30161 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.29533 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.37971 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3385 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.27899 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.312 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.36726 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.33147 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.29607 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.248 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.15313 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20474 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.28209 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.17738 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.20935 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.31291 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33284 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.17765 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.2356 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.19127 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.19943 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.19873 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29518 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.13169 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.17053 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.29407 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.29261 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32005 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09619 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2278 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08365 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.26633 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.16191 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.1567 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.43862 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.24535 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.68032 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.56423 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63921 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71478 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6368 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58334 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75615 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.60405 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.55149 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67013 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59321 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59161 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.63846 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49897 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.44119 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44685 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48569 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.47739 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.46706 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57244 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50817 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.44872 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.47956 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.53788 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.50698 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.48717 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39506 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.29676 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3742 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43948 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.30013 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36241 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50174 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.44181 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33052 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4117 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36403 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.3684 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.38378 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45799 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.28174 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3164 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48502 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49024 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.49469 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1667 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34473 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16161 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.43578 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32642 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.29665 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60685 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.43439 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7358 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64361 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71654 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75752 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.70417 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64798 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.82136 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66832 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62546 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72976 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.66991 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.66442 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70102 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.58363 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5446 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53451 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.56533 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56074 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55535 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.66726 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57938 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53497 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55847 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.61101 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5903 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57858 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.48062 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.38529 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.47685 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52163 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36849 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.45371 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.59451 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47604 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42336 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50373 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46783 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.46091 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.48721 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.54449 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.3739 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.393 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56115 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58669 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.57402 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21024 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40366 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20807 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.53429 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.42635 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.37716 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67161 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50908 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79726 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.72882 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80129 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.80259 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77191 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73255 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86606 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73392 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.70618 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79322 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74485 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74331 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76923 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.68425 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6583 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.64256 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.66551 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65534 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.66077 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.75664 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65637 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.64739 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.66561 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.69618 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68338 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69209 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59623 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.49478 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.60257 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63599 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.4469 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57986 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.69362 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.51957 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.55143 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.61296 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.60569 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58806 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.62049 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.65863 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.51275 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49852 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64827 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.70512 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.66642 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.26795 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.47553 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27187 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6606 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55215 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48294 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.72714 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.59288 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.85666 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.80023 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87531 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.87086 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.83634 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.8277 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.89151 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79087 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.81001 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.84601 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.83646 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.82874 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.8275 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.80852 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75958 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.79366 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80527 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73634 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.80999 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.82213 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73026 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.80907 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.79516 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.80572 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.81597 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.81882 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.73186 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60747 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.74813 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.76763 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52222 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.74935 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.79005 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55482 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.73005 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.73749 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.7686 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.75513 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.75731 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.81556 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.72797 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.66312 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.78934 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.8144 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.7628 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.38542 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.56349 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.38589 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.83513 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.67238 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.66483 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.80152 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.73701 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.86011 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.8067 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87981 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88032 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.84171 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.83816 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.895 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79299 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.81681 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.85048 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.85167 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.83968 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.835 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81947 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.76617 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.81667 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.8327 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74203 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.82594 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.83294 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73631 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.82293 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.80645 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.83992 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.83154 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.82939 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.74665 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61638 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.7741 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7922 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52638 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.76647 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.80236 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55796 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.74529 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.7525 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.80118 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.77153 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.76544 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.8311 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.7639 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.7033 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.83849 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.82526 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.77334 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.41234 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.57755 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.4052 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.85118 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.69026 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.73611 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.81824 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.76211 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.86011 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.8067 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87981 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88032 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.84171 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.83816 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.895 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79299 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.81681 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.85048 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.85167 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.83968 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.835 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81947 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.76617 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.81667 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.8327 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74203 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.82594 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.83294 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73631 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.82293 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.80645 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.83992 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.83154 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.82939 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.74665 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61638 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.7741 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7922 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52638 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.76647 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.80236 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55796 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.74529 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.7525 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.80118 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.77153 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.76544 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.8311 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.7639 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.7033 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.83849 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.82526 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.77334 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.41234 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.57755 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.4052 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.85118 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.69026 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.73611 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.81824 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.76211 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.84348 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84488 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.85119 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86517 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87721 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.81135 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.89146 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.83173 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78303 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79772 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87066 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.82123 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86235 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.75439 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71861 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.6533 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73988 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.66901 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.69082 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.77379 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70296 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6435 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71927 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73644 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.69451 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.74484 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68172 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.671 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.65169 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72523 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.61302 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67234 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.68576 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50906 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.64255 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66246 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.72979 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.67344 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.75147 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.73439 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.62733 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.63952 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.65007 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65788 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.69892 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29914 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.5052 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27786 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73444 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.60111 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.61464 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67429 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46128 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.44855 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50201 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.48661 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.43914 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.48946 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46708 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.54269 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.46383 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.4556 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.43044 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52818 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.46182 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.48944 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49586 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49754 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45286 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48433 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.43804 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.46518 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.50854 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44176 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42402 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4702 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4492 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43697 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52606 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46484 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.50577 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.47815 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49409 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42537 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48077 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48168 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2669 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.4797 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.48516 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.56139 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50145 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58751 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47238 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.48933 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47235 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.42094 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45894 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43321 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21282 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.322 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20526 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.49493 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46607 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.46581 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.38591 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.31745 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.3142 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.3744 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.35164 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.29944 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.35074 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.3363 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.38234 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.33214 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.34022 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.30171 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.38714 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.33827 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.35004 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.38421 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.40236 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.35546 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37268 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.33858 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.36685 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.39297 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3315 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.33498 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.36383 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.33583 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.33735 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.41445 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3738 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.41861 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39485 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39132 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.33948 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.39379 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.38127 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1843 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.39713 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.39318 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46607 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40755 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.48525 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.36503 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.4032 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.3813 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.30703 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.36169 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32621 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17446 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24677 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17062 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.39725 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38546 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.38198 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.27808 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.24136 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.18565 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.23065 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.21064 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.17022 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.20618 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.20759 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.21085 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.19526 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.21181 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.17571 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.23129 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.20705 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.20925 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.24861 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26307 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23378 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.23912 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.21581 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.2414 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.24209 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.2042 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22175 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.24008 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.20802 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.21439 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.2708 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25574 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.28514 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.26635 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.26537 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22053 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.27359 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2483 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.10647 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.27987 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.26209 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.32522 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.28077 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.3337 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.23888 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.28613 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26003 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.18514 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.23567 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.20137 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12102 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15795 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11939 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.26447 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.26219 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.26315 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.16222 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.15123 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.04249 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.05307 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.04769 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03965 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04669 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.05012 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.04375 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04382 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.0525 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03962 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.05478 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04884 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04736 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.06227 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.06355 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.06082 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.06155 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05016 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.06398 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.05417 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.04768 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.05913 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.06165 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.05143 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.05531 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.06817 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.06765 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07162 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.06756 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.06824 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.05375 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.07565 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05893 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.02338 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.07741 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.06691 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.0861 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.0753 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.08515 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.06248 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.08233 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.07302 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04593 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.0557 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04754 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03666 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.03899 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03562 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.07132 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.06409 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.07813 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03672 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03821 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.02139 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02678 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02403 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.02027 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02357 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02545 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.022 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.022 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02657 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01998 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02801 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02485 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02401 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.03164 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03208 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.03134 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.03219 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02528 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.0328 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02752 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02404 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.03008 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.03135 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02713 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02831 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03459 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03457 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03633 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03474 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03534 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02712 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.03871 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02987 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01174 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.03951 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.03412 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.04491 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03852 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04313 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03182 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04275 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03873 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02447 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02813 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02403 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01956 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01991 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01859 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.03649 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.03261 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.04386 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0186 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01963 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00214 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.0024 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00203 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00236 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00255 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.0022 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.0022 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00266 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.002 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.0028 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00248 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.0024 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00316 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00321 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00313 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00253 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00328 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.0024 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00313 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00271 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00283 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00346 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00346 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00363 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00347 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00353 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00271 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00387 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00299 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00117 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00395 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00341 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00449 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00385 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00431 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00318 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00428 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00387 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00245 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00281 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.0024 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00196 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00199 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00186 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00365 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00326 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00439 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00186 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00196 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.8442 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.84488 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.85193 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.86517 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87647 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.81135 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.89146 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.83104 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78303 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79772 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.87066 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.82123 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.86235 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.75512 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71787 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.6533 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.74056 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.66831 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6916 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.77306 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70159 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.64425 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71997 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.7372 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.69451 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.74631 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68172 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.67244 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.65022 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72596 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.61445 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6716 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.68731 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50906 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.64255 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66246 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.73048 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.67417 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.75369 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.73522 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.628 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.63952 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.65007 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65718 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.69892 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30201 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.50382 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27786 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73444 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.60388 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.61706 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67587 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45872 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.87415 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.87613 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.8848 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88635 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90098 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.8429 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.90461 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86115 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.82448 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.84319 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.8915 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85405 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89148 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.80677 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.77782 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.71764 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.78849 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.72687 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.75366 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.81393 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.75442 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.71898 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.78038 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.78151 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.76128 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.80654 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.74204 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.73425 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.70422 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.77946 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.6731 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.73274 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.73104 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.54386 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.70714 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.72268 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.7815 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.73174 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.81072 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.79156 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.69756 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.70965 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.70461 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.7186 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.74416 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.35067 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.54164 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.33357 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.80294 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.67186 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.67391 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.7057 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52596 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.87821 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88053 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.88759 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88899 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90451 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.84721 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.9062 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86496 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.83023 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.84689 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.89388 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85838 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89388 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81273 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.78532 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.72748 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.79488 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73435 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.76276 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.82096 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.76069 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.7278 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.78666 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.78671 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.76998 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.8127 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.75218 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.74467 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.71361 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.78727 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.68315 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.74073 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.74094 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.54856 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.71803 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.73199 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.78893 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.74005 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.81599 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.79981 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.70726 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.71908 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71365 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.72651 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.75048 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.36186 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.54747 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.34649 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.81141 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.68256 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.68654 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71209 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.53583 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.87936 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88196 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.88939 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.89083 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90606 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85111 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.90727 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86711 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.833 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.84899 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.89526 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86023 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89506 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81589 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.78861 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.73258 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.79966 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73782 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.76729 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.82443 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.76361 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.73323 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.79039 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.79149 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.77328 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.81562 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.757 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.7484 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72096 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.79281 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.687 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.74821 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.74467 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.5529 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.7229 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.73708 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.79538 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.74611 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.81977 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80418 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.71476 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.72435 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71923 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.73217 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.75428 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.36842 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.55142 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.35519 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.81537 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.68855 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69531 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71494 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54106 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88013 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88249 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.89017 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.89213 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90653 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85232 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.90776 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86772 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.8339 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.84977 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.89683 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.8615 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89558 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81733 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.78991 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.73522 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80162 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73935 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.76969 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.8253 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.76498 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.73603 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.79245 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.79367 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.77534 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.81668 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.75894 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.74995 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72375 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7946 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.68939 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.75059 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.74631 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55404 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.72656 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.73939 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.79724 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.7478 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82093 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.8061 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.71735 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.72688 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.72272 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.73415 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.75611 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.37369 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.55378 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.36059 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.81672 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.69091 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69874 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71723 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54624 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88016 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88254 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.89017 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.89215 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90655 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85237 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.90776 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86774 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.83392 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.8498 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.89685 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86152 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89563 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81736 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.78994 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.73537 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80168 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.7394 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.76975 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.82537 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.76505 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.73608 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.79251 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.79384 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.77541 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.81672 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.75902 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.74997 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72393 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.79471 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.68941 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.75065 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.7464 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55411 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.7266 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.73946 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.79731 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.7479 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82093 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80616 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.7175 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.727 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.72302 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.73423 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.75618 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.374 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.55395 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.36082 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.81672 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.691 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69891 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71741 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54652 + } + ] + }, + { + "config": { + "retrieval_model": " inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "jina-reranker-v2-base-multilingual", + "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v2-base-multilingual", + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2025-02-21T02:55:28Z", + "is_anonymous": false, + "revision": "5303cd588e5d240059ded77bdd9b71e4" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88016 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88254 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.89017 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.89215 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.90655 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.85237 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.90776 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.86774 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.83392 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.8498 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.89685 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86152 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89563 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81736 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.78994 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.73537 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.80168 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.7394 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.76975 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.82537 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.76505 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.73608 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.79251 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.79384 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.77541 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.81672 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.75902 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.74997 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.72393 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.79471 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.68941 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.75065 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.7464 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55411 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.7266 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.73946 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.79731 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.7479 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.82093 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80616 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.7175 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.727 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.72302 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.73423 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.75618 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.374 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.55395 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.36082 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.81672 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.691 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69891 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71741 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54652 + } + ] + } +] \ No newline at end of file