diff --git a/AIR-Bench_24.05/gte-multilingual-base/NoReranker/results_20241201071449-cfc9e86419e2475c4105e2d8f135dbbb.json b/AIR-Bench_24.05/gte-multilingual-base/NoReranker/results_20241201071449-cfc9e86419e2475c4105e2d8f135dbbb.json new file mode 100644 index 0000000000000000000000000000000000000000..163ba11daa913dc4421619a3cbc8a03cca39e375 --- /dev/null +++ b/AIR-Bench_24.05/gte-multilingual-base/NoReranker/results_20241201071449-cfc9e86419e2475c4105e2d8f135dbbb.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11693 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11728 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13169 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52639 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47523 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3947 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47636 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44063 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46558 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50516 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48341 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.4886 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4746 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50074 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46678 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51849 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.45551 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49048 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47133 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.54371 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.51423 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41995 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4724 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41136 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71067 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71491 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71503 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63173 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77279 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73853 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64232 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6604 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69832 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67664 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67102 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6391 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45632 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58683 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.558 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5219 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50598 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58538 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56433 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55826 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56573 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.48052 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54988 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51606 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.51964 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54202 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10586 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10113 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11682 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.46335 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44653 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34554 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.41039 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36971 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.40158 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.42725 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40855 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41798 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.42944 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43721 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50384 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44131 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.36442 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4356 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.39831 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.45147 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.47305 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.36782 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49715 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.35986 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40375 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64752 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64875 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59419 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53719 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.65534 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.60507 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.62172 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.52594 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.53942 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.56774 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60486 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.56398 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5504 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38555 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.48685 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.49066 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49426 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45286 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45107 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.5305 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49107 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.49816 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49094 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4395 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.49385 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4621 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.47907 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.48777 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.10633 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10563 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11631 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44708 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44887 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.33598 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38512 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35587 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39022 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40721 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.38186 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.39443 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40995 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42553 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.53048 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.41714 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.34059 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44448 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.36684 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44501 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.47519 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34881 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5105 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3449 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42677 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64901 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66115 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59323 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52662 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.65386 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.61104 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61189 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.51363 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.53094 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.55832 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60928 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.55869 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.54847 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.38863 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46907 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48159 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49367 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.44761 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4437 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53508 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.47743 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.48419 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.47544 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.44287 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48736 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45322 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.48063 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47568 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11684 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11438 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12647 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.45856 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47545 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.36198 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.39128 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.36642 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.4047 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.4127 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39054 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40393 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.42625 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43934 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.56003 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42934 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.34919 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.47477 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.37936 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.4635 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5068 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35465 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53244 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.36837 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45586 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.66689 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69122 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61864 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.54395 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67623 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63424 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.62794 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.53239 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55631 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.57617 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.62828 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.58121 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57028 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.41278 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.48688 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.50345 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5205 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4675 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.4712 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56302 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49557 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.50503 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.49704 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.47413 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.51181 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.47224 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50887 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.49771 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14603 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.13498 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16097 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.53103 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53986 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.43874 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47689 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44485 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47836 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50377 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48324 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48997 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5043 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50688 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.60051 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.50784 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.42466 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53402 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47828 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.53219 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56843 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.44145 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57368 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.44109 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50006 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6979 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72368 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.66172 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5925 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71956 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67002 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67075 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58641 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60458 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.61883 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66318 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62501 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61885 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.47487 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.56557 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.56799 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57613 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53061 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53884 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.62541 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56178 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57695 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.57396 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.5331 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5721 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.53798 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57065 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.56706 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15662 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14259 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17306 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55008 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55421 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.45917 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49859 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.467 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.49847 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.52742 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.50651 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51216 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.523 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.52348 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.61034 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.52989 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.44744 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54744 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.50364 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55105 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58249 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.46606 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58191 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45857 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51412 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70543 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73015 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.67236 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.60412 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.73064 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67775 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68176 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59929 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.61557 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6296 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67049 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.63657 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.62912 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4909 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58273 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58172 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58858 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54488 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.55424 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63751 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57736 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59268 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59091 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54581 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58462 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55557 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.58556 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58378 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18728 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16923 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20492 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.57941 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57839 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.49633 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53348 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.50758 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.53322 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56499 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54749 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.54679 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.55411 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.55433 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.62496 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.56422 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.49447 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57296 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.54246 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.58306 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.6027 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51205 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59908 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.49076 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54145 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.72103 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74115 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.69117 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62665 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.74542 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69388 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69993 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.6254 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6388 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64988 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68708 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65849 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.65057 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52141 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.61342 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60588 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6082 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57218 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.57768 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.6562 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.60221 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.61818 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.61449 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.5705 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.60825 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58247 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.60746 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.60764 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03674 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.06114 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03872 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.20431 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.21728 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12028 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.12577 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.13324 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.16518 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.13011 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11117 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.12081 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.14047 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17553 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32818 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.15394 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.12453 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.23082 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.09895 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.23393 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.21398 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.10774 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.30507 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.1094 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.21353 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.46867 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.4165 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37603 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.3083 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.40943 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.44315 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.40196 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.29676 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.28796 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.36348 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.42548 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.3565 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.33311 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2059 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.21567 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.22313 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.25647 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.20754 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.20365 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.26342 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.23952 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.21182 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.20128 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.23159 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.25566 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.2166 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.24934 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.22641 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.05817 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.0758 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.06436 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2919 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.31747 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.19854 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.20872 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19911 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.24009 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.2153 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.19089 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.20375 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.23686 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.26788 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.43355 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.24163 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.19438 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.3351 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.18241 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3063 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.32359 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.18272 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.42293 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.19014 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33723 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.56177 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.54865 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.47674 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.39683 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.5255 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.51557 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.49593 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.38384 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.3909 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.44137 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.51818 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.44552 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.4272 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27918 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.30572 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.32594 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.35777 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.29865 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.29938 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.38135 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.33055 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.31687 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.30731 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.32203 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.35267 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.30813 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.34847 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.32381 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.06767 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.0811 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07426 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.32492 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35527 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23167 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.24551 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22939 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.27093 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.25447 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.22775 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.24225 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.27677 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.30726 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46471 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.27574 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.2221 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.3662 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.22102 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.33644 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.3688 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.21864 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45108 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.22729 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.3716 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.58139 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.58669 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5049 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.42652 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56167 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.53858 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.52234 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.41166 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.42227 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.46323 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.53916 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.4703 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.45601 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3053 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34042 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.36536 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.39553 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.33597 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.33532 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.42608 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.36366 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.35794 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.34915 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.35337 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.38294 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.34118 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.38198 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.35869 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07744 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.08611 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08419 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.3575 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39531 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.26541 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28078 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.25991 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.30013 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.29731 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.27169 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.2864 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.31901 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.34172 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.48544 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.31321 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.2514 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.38972 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.26377 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.36124 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.40908 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.25636 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47301 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.26653 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39632 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.59697 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.61581 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.52709 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.45301 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.58706 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.55956 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54267 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.4373 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.45017 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.48468 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55597 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49165 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47941 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32651 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.37312 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.40094 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.43065 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.36953 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37128 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.46428 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.39693 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.39735 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.38863 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.38286 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.41391 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.37202 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.41572 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.3946 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08606 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09173 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09408 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.38901 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.4251 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.29756 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31914 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29236 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33115 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.3399 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31462 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.32734 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35557 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37084 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.49982 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34865 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28063 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.41095 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30833 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38842 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43781 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.2945 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49067 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29769 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41274 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60894 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.62964 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54522 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47539 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.60628 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57443 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.56138 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.46031 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47047 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50219 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56891 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.50894 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.49945 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34901 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.40712 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4297 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.45479 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39727 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40019 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.49311 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42646 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43144 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42544 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40557 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.43919 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40065 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44323 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.42614 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08748 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09263 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09568 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39288 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42759 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30118 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.32356 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29668 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33514 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.34511 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31954 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.33189 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.35934 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37404 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50114 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35324 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28505 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.41311 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31354 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.39189 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44032 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.29944 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49189 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30083 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4146 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61019 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63074 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54704 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47753 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.60827 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57583 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.56333 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.46256 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47245 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50404 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57014 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51084 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5013 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3517 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41067 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.43223 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.45691 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.39986 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40306 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.49539 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.4295 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43463 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42885 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40792 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44141 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40404 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44592 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.42951 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08907 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09371 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09729 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39535 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42932 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30399 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.32648 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.30003 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33797 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.34851 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32331 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.33491 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.36197 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37651 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50199 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35628 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28885 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.41482 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31712 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3944 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44164 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30335 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49263 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30323 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41597 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.6112 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.63143 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54834 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47917 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6093 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.5769 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.56469 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.4644 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47407 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50533 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57122 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51231 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50285 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.35375 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41324 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.43408 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.45829 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.40187 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.40471 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.49686 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.43147 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43678 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.43071 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40974 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44311 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40613 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.44741 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43141 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03674 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.06114 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03872 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.20431 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.21728 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12028 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.12577 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.13324 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.16518 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.13011 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11117 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.12081 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.14047 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.17553 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32818 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.15394 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.12453 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.23082 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.09895 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.23393 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.21398 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.10774 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.30507 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.1094 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.21353 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.46867 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.4165 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37603 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.3083 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.40943 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.44315 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.40196 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.29676 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.28796 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.36348 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.42548 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.3565 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.33311 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2059 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.21567 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.22313 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.25647 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.20754 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.20365 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.26342 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.23952 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.21182 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.20128 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.23159 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.25566 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.2166 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.24934 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.22641 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07182 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09131 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08143 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.32579 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.35283 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23092 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.24073 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.2315 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.27775 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.2451 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21933 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.233 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.27539 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.299 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.51517 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.27568 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.21495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.37513 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.21059 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.33991 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.37106 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.20748 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48234 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.2229 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38477 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60372 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.58675 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51728 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.4299 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.55937 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.54185 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.52292 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.41557 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.43228 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.47387 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55569 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.48517 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46694 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.31618 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.3425 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.36672 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4063 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.33743 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.34564 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.42811 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.36709 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.36085 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.34246 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.3738 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40253 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.35492 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.39547 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.36478 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09699 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11056 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10654 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.38713 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42305 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.29361 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.30569 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29409 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.34245 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.31649 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.28639 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.30351 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.34433 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.3744 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.596 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34322 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26421 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44288 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.2787 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.40607 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.46201 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.26944 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54194 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.29062 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46053 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64825 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66166 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.57196 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.48783 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62408 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.59521 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57449 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.4707 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.49634 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.52094 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60177 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.53651 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.52597 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37692 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41244 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44211 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47745 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.40958 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.41694 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51754 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.4296 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43612 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42113 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.43784 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.4652 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.42104 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.46667 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43367 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1347 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.1389 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14153 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47416 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.52364 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39285 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.39501 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37718 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42478 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.41757 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39201 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.41084 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.44498 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.46057 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.67558 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44105 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.34694 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52722 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38379 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.48464 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56975 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35857 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60738 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.38907 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.53321 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69811 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74059 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64122 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56034 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6938 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66249 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6343 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54444 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.58163 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58315 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65698 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.60548 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5961 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45008 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.50308 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53854 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57035 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4955 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.51634 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.61601 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51859 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.54102 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52304 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52973 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55317 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50734 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56336 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53449 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2187 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20389 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24098 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.66395 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.70318 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.60411 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.61617 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.5786 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.61559 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64622 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.62296 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.62624 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64532 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.64125 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.81554 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64027 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.53905 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71294 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.63778 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.67727 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.75253 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.57124 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.73923 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58695 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.67834 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.79117 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.84356 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.7708 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.69837 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82375 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76657 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75586 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69764 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72044 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70722 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.76639 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73784 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.7393 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.64132 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.71493 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.71526 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.73112 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67337 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.71059 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.79885 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.69767 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.733 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73081 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.70433 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72712 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.68563 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.74261 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.7232 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25936 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23667 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28862 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.73386 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.76283 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.682 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.69463 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.6572 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.68877 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.72791 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.70347 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.70509 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.71371 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.70111 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.86512 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.72043 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61712 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.77064 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.72803 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.75091 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.81492 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.65452 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.77998 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.65454 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.74716 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.82224 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.87276 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.81559 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74421 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86996 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79849 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80112 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74988 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.76502 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.75134 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.79725 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78651 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.78084 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.71021 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.77791 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.76974 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.78453 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.73092 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.77217 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.84959 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.75726 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.79317 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.79622 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.75438 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.77825 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.75234 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.80462 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.78582 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.41866 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39337 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.45462 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.87592 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.89928 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.87313 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.86026 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.84949 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.85551 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.90042 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.88995 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.867 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.86447 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.85126 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.96184 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.88298 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.82828 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.91448 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.91184 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.91435 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.93967 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.85991 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.90761 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.82446 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.93521 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.91024 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.94086 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.92005 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.86515 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.95232 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88882 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.89856 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88905 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.89176 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.86416 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.89312 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.90682 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.89576 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.8869 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.92917 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.89578 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.89463 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.88109 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.90441 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.95504 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.88642 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.92103 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.92232 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.88851 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.90509 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.89374 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.93003 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.90858 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11693 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11728 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13169 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52639 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47523 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3947 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47636 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44063 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46558 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50516 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48341 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.4886 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4746 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50074 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46678 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51849 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.45551 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49048 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47133 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.54371 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.51423 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41995 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4724 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41136 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71067 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71491 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71503 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63173 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77279 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73853 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64232 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6604 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69832 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67664 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67102 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6391 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45632 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58683 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.558 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5219 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50598 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58538 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56433 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55826 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56573 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.48052 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54988 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51606 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.51964 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54202 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08847 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.06107 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09913 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35189 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.32301 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.29062 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35435 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.30162 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31162 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.36799 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.36267 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.36374 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.36405 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.34965 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.27811 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36341 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.30191 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.30844 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.36111 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.32057 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.35531 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.321 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.29863 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31764 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.27262 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.34902 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.40521 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.37326 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.35695 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.41667 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.33043 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.38189 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.35567 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.37741 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.35033 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.34069 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.34982 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.35338 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.2698 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.37 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.36879 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.34602 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34224 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.33732 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.38346 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.35916 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.38348 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.38749 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.30328 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.34674 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.33752 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.33517 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.3616 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07418 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.04705 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08205 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.27491 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.25697 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.23579 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28797 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.24878 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.24944 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.30634 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.30014 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.30214 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.29507 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.27923 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20587 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.28743 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.24027 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.22826 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.2972 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.24729 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.28217 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.26742 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.21767 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.26247 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.20817 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.23694 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.29001 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.26324 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.26244 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.29882 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.23188 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.26832 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.25949 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.27457 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.24497 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.23476 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.24574 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.25646 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.20419 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.28799 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.28771 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.2672 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.26919 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.26173 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.29768 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.275 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.30029 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.30399 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.23331 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.25924 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.26145 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.25665 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.27911 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.05337 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.03067 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.05716 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.1851 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.1767 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.16701 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.19799 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.17303 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.17017 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.21681 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21775 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.21735 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.20595 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.1862 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.12407 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.20052 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.16833 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.14151 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.2124 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.15853 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.1864 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.19123 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.1321 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.18345 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.13064 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.13645 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.17308 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.1567 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.16347 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.17735 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.14072 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.15878 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.1625 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.17059 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.14846 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.13618 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.14753 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.15728 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.12953 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.18893 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.18888 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.17416 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.17721 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.17526 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.19361 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.18041 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.20147 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.20266 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.15302 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.16814 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.17311 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.16919 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.18728 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01832 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01076 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02023 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.05826 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05215 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.05406 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.0651 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.05811 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.05517 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.07155 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07255 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.07017 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.06379 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.05641 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.03158 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.06367 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.05698 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04066 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.07161 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.04994 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05166 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.06642 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03456 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.05616 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03503 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03434 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.04097 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.04089 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.04468 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04531 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.03652 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.04214 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04553 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.04591 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.03983 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03469 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.03937 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.04297 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.03955 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.05935 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.05466 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.0483 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.05167 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.05175 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05337 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.0537 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.05984 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.06097 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.04429 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.0484 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.05225 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.04888 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.05594 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01104 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00654 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01221 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03276 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02838 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03067 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.03681 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.03353 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03147 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04067 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.04114 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.03956 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03546 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.03148 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01687 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.03617 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03342 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02229 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04082 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.02825 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02779 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.03851 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01824 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.03114 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01919 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.01837 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.02135 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02204 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02431 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02437 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.01949 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02283 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02484 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02474 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02161 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01843 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.02147 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02315 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02217 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.03295 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.02964 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02596 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.02817 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.02847 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02857 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.02965 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03275 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03348 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.0243 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02625 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.02927 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02679 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.031 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00182 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.0012 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00197 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00399 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.0033 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00387 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00456 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00437 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00401 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00506 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00519 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00485 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00428 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.0039 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00189 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00447 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.00466 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.0027 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00502 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00355 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00311 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00513 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00202 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00379 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.0023 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00214 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00231 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00256 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.0029 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00227 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00266 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00304 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00295 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00258 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00215 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00258 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00275 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00277 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00402 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00349 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.00297 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00335 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.0033 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.0032 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00351 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00385 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00384 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00292 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00312 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00351 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.0031 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00364 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11693 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11728 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13169 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.52639 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47523 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3947 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.47636 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44063 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.46558 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50516 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48341 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.4886 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4746 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50074 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46678 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51849 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.45551 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49048 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47133 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.54371 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.51423 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41995 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47319 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41136 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71067 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71491 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71503 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63173 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77279 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73853 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64232 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6604 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69832 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67664 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.67102 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6391 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45632 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58683 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.558 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.53221 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5219 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.50598 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58538 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56433 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.55826 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56573 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.48052 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.54988 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51606 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.51964 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54202 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15304 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.13868 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17209 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.59785 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53844 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.46846 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.55575 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.51979 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54737 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.58112 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.56337 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.56646 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56277 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.568 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55594 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.59837 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51458 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.55686 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.54356 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61255 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58663 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.49289 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54246 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.49077 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45716 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.7596 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76206 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76513 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68389 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.81777 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73829 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.77968 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.69101 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72182 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74569 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72602 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72333 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.70005 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51504 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.6575 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62686 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60347 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59255 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.5796 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.65636 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63073 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.63459 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63319 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.55908 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62581 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.59346 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.59258 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.61874 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16505 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14687 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18501 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6113 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55117 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48216 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.56929 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.53889 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56499 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.59871 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.58195 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58501 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.577 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58429 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.5703 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.61413 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52865 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56919 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.55886 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.62791 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.602 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50705 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55066 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.50645 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46908 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76743 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77118 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77093 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.69378 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.8238 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74738 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78693 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70024 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73183 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.75303 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7341 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73088 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.70985 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52804 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.67262 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.6398 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6151 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.60491 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.59241 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.66964 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64308 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.64576 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.64733 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57153 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63837 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60683 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.60678 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63153 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1726 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15218 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19236 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62137 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56131 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.49684 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.57848 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.54906 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.57431 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.60818 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.5919 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59443 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.58547 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59316 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.57844 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62398 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54116 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57772 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57044 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63473 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.6095 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51954 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5567 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51636 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47498 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77165 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77531 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77549 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.69947 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.8278 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75308 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79195 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70635 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73731 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.75638 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73887 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73545 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71592 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.53623 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.67954 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64736 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62441 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61241 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6007 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.6761 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65066 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.655 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.65579 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58206 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64532 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.61572 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.61618 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64166 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17819 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15676 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19931 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62608 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56706 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.50276 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.58427 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55526 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58027 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61357 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.59699 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59887 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.59051 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59776 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.58345 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62832 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54789 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5844 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57728 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63917 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61275 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52693 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56086 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.52272 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48042 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77404 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77738 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77761 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.70166 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82942 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75535 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79381 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.7101 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73974 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.75883 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74191 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73857 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71901 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54283 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.68384 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65165 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6289 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.6167 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60613 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67992 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65483 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65902 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.65972 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58751 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.64999 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62015 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62007 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64568 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17894 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15736 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20003 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62643 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56745 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.50345 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.58461 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55561 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58061 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61386 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.59733 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59932 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.59097 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59808 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.58392 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62858 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54837 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58479 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57771 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6396 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61319 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52739 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5612 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.52309 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48119 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77424 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77753 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77779 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.70187 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.8296 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7555 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79399 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71039 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7399 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.75903 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74209 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73884 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71916 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54324 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.68402 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65197 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62923 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61704 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60648 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68018 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65505 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65931 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.65997 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58776 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65028 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62051 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62043 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64594 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17961 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.15799 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20066 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62661 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56775 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.5038 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.58483 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55583 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58084 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61404 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.59747 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.59948 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.59117 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59828 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.58416 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62876 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54863 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58508 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57784 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63981 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.6135 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52767 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.56158 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.52336 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48177 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77435 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77763 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77791 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.70209 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.82967 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75562 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79409 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71059 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74005 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.75916 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74223 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73901 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71932 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54363 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.68418 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65214 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62939 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.6173 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6067 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68036 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65523 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65948 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66014 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58798 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65046 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6207 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62065 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6461 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58258 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63018 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.59827 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5831 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53869 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.58065 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.32932 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.36499 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44818 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5075 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.55547 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52686 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.53283 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.63495 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.49301 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.52594 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45939 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48097 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.45436 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43347 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.49996 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.53481 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52231 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.55382 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.63544 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.49775 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.52996 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46978 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.50844 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49746 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45582 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54558 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.56754 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57403 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59638 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.67623 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53774 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.57628 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51328 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.53847 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53949 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.49163 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64032 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.64767 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.65317 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66383 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75625 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61301 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.63469 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.5947 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57672 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.58673 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56359 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.65438 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.66393 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.66648 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.67586 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.76467 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62866 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.65199 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.61125 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58376 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.59638 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.57791 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66931 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.68328 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.6804 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68636 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.76965 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64405 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.66994 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62917 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58937 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.60272 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.59667 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.17395 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.19225 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.19858 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.28865 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.25343 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.23974 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.30654 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.22791 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.32932 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.29624 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.21696 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.30244 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.3367 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.33855 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.42057 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.42381 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.36717 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.42504 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.33931 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44444 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.41077 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.3332 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.36181 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.38928 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.39325 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.46141 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.49698 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.40866 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.44892 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.37677 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.4593 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.43857 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.37251 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.42924 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.44997 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.44954 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.49228 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.5604 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.44429 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.47989 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.41184 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.4718 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.45912 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.39913 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.47741 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.4925 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.48908 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.52037 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60473 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.4742 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.50251 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.44471 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48042 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47311 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.42709 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48035 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49595 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.49213 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.52256 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60673 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47714 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.50562 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.44757 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.481 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47433 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.42913 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.48164 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.49768 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.49341 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.52351 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.60728 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.47823 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.50714 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.44906 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48129 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.4747 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.43033 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.17395 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.19225 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.19858 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.28865 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.25343 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.23974 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.30654 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.22791 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.32932 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.29624 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.21696 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.341 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.38018 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.39412 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.48162 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.46793 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.41548 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.47892 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.38669 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.58635 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51682 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.40107 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.44197 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46591 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.48986 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57891 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.59637 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.49441 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.53598 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.46705 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.65462 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.60856 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.48635 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.59556 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.60172 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.64563 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68323 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.73026 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.60104 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.64396 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.57776 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.74699 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.72132 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.57893 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.85605 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.81688 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.86696 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.89116 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.94216 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.83105 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8245 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.82935 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.91566 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.90529 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.81061 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.91263 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.88323 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.91802 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.94323 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.97434 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.8967 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.8987 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.90032 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.95984 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.95673 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.88202 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.9954 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.98915 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.99224 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.99932 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.99196 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 1.0 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 1.0 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58258 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63018 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.59827 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5831 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53869 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.58065 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.32932 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.36499 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44818 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.43443 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.46844 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.43353 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.37183 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.51359 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.36111 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.34229 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.33242 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.19545 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.22651 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.30906 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.36336 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.36746 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.34624 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.27775 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.41957 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.2756 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.2414 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.25738 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.13092 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.16914 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.23754 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.25886 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.25444 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.23815 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.17296 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.2769 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.17679 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.15618 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.17158 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.0747 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10326 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.14846 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.07532 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.07225 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.06659 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.04845 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07598 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05232 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04344 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.05186 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01831 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02641 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04319 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.03994 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.03876 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.03555 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.02592 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03943 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02854 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02419 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.02831 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.0096 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.01407 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02322 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00427 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00424 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.0038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00276 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00403 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.0031 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00271 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00313 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.001 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00147 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.58258 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63018 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.59827 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5831 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7038 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.53869 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.58065 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.51093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.32932 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.36499 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.44818 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.64565 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.70858 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.68642 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.66432 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.77808 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61558 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.65905 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59608 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.44444 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47181 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53688 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66276 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.71746 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.69697 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68066 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79194 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62733 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.67289 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.61152 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.4593 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49303 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55061 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.67117 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.72462 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.70674 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68905 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79672 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.6355 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68224 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.6214 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.4718 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.50832 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55964 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.67722 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.72629 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.70954 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69311 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7988 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64169 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68558 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62692 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48042 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51556 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5667 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.67739 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.72661 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.70962 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69325 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79885 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64206 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68595 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62728 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.481 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51603 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56729 + } + ] + }, + { + "config": { + "retrieval_model": "gte-multilingual-base", + "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-multilingual-base", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:14:49Z", + "is_anonymous": false, + "revision": "cfc9e86419e2475c4105e2d8f135dbbb" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.6775 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.72684 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.70976 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.69341 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79887 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.64225 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.68607 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.62744 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.48129 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.51615 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.56752 + } + ] + } +] \ No newline at end of file