diff --git a/AIR-Bench_24.05/inf-retriever-v1-1.5b/NoReranker/results_20250217061310-62a5f71c525253b71e8ba12badc0754c.json b/AIR-Bench_24.05/inf-retriever-v1-1.5b/NoReranker/results_20250217061310-62a5f71c525253b71e8ba12badc0754c.json new file mode 100644 index 0000000000000000000000000000000000000000..01648705d8772c87e69a0cc33139191e094e493b --- /dev/null +++ b/AIR-Bench_24.05/inf-retriever-v1-1.5b/NoReranker/results_20250217061310-62a5f71c525253b71e8ba12badc0754c.json @@ -0,0 +1,11657 @@ +[ + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7087 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68373 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.73438 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69031 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.73456 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66849 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72142 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.64011 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67159 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65242 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74133 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69553 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73926 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56506 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52437 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5761 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.56074 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44202 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58365 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.55417 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.42522 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.54858 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.54818 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57296 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58082 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59366 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47298 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43867 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48675 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5893 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32904 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55769 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48297 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.18637 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53868 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.53338 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.57291 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51234 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53319 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.62281 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.49467 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47662 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53587 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44761 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.49025 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16499 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3338 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18379 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63169 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43006 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48512 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52997 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.3966 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64221 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5625 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63148 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64451 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62058 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.58335 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66814 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.5443 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57924 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60106 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.61666 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59585 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.62656 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.50734 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.46767 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50977 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.51392 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.39701 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53412 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52527 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.40051 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49705 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4874 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52445 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.53009 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53144 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42547 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.35856 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.44312 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51649 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.27977 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48651 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.46891 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.19766 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.45387 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.4707 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.50281 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.46627 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.46428 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.53153 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.41766 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40162 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.50071 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.43627 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43435 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1555 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30238 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16681 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54014 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.37758 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41987 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53383 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.40569 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65111 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.55742 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.63544 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65516 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.61852 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5784 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68566 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.54189 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.57108 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.61536 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60825 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.59524 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.62382 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.50022 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.45359 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50243 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.51004 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.40357 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52534 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52953 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.40708 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49549 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.48518 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52978 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.53575 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52425 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.41718 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32627 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.42844 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.4983 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.26443 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.46246 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.47579 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.21422 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42891 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45847 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.48263 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45467 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.43853 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.51893 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.38842 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.38177 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51182 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44609 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.43324 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15987 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.30634 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16391 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.52062 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.36524 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39717 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55673 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.42818 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67568 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.57746 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.67042 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68115 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.63855 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60604 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71575 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.56532 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.59438 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64114 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.63433 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.62018 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.64645 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.52974 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.47643 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5323 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53762 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.43053 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.55051 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.55931 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.43521 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.52705 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50651 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.56491 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56952 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.54552 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43803 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.32637 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.45701 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.51493 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.27053 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.47591 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50663 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.24326 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43841 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47724 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49295 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.47625 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.44489 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5429 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40353 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39281 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54717 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48683 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.46335 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.17794 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32374 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18122 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.54699 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.39367 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.40567 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58077 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45993 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71341 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63237 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.7142 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.7183 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68444 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.65786 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.74595 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61161 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6485 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67867 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.68745 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.67021 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.69093 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.599 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.54794 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.6001 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60895 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.49555 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.61847 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61376 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49469 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.5928 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57758 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.6216 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62541 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.61554 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51636 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.41353 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.53631 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.59056 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.33724 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55856 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57113 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.28809 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.52778 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54924 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58733 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53902 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61498 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.50869 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47658 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60268 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55178 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.52467 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23061 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.37469 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23122 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.62876 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.4668 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.50236 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61483 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50558 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.72167 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.64582 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.7227 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.7261 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.69623 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66985 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75231 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.6252 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65969 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68655 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.69842 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6809 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70024 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.61285 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56362 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61471 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.62224 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.63181 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62584 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50959 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60632 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.5941 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63348 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63663 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.63154 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5358 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43715 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.55399 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.60724 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.35874 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57741 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58392 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.3009 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.548 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.56593 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.60689 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.57482 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56154 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63205 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.53323 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.5036 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61524 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5649 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.54113 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24719 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.39008 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24736 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64639 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48462 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.5289 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.62293 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51869 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.73547 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.66826 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.73657 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.7373 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71397 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68648 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76115 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.64747 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67997 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70037 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71565 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69768 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.71765 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63421 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5903 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63414 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64045 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53598 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65249 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64231 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53588 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.62683 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.61612 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65075 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.65545 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65327 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56576 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.48406 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.58065 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.63287 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40144 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.60747 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60294 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33749 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.57948 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59131 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63404 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60123 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.59556 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.65601 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.5681 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54427 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.63399 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.58316 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56717 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28693 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.42085 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2858 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.66964 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51541 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.56816 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64029 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54498 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.4546 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.31614 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.3892 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.4548 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.39069 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.34265 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.42305 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.3352 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33433 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.40052 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.32908 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.35744 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.40054 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.23623 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.1861 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23287 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.22879 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.18872 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24237 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.26164 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.20647 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22868 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.2248 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27542 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.26754 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.22698 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.16335 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.09731 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.14937 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.22289 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.09789 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.171 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2186 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.11114 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14345 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.18339 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15017 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.15065 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.13543 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.2612 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10783 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.13039 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.25331 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.18006 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21993 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.04693 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14355 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.04797 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.23334 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.1125 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.1186 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.34174 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.20511 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_3", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.54562 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.41013 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.50658 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.55335 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.49335 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.44945 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.56679 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.42574 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.43444 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.50729 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.45389 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.45988 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.49596 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.33849 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.28596 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.34339 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.34168 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.26937 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.35558 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.37858 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.2878 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.33566 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.32215 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.38806 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.38046 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.34091 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.25158 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.16151 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.25987 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.32526 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.14509 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.27199 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.3318 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.15541 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.23641 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.28819 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.25872 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.25875 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.23217 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.3599 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.1957 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.21203 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.39232 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.29157 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.31418 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08003 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.21012 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08526 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.34246 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.20055 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.20524 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45745 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33158 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_5", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.57334 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.44752 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.54134 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57905 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.52357 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47995 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.60972 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.45053 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.46695 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.53499 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.49313 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.49131 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.52833 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37733 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.32575 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.38411 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.38681 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.30429 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.39838 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4252 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.31603 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.38022 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.36255 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4307 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.42139 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.39081 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.28895 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.1887 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30447 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.36402 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.16351 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.31293 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.37625 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.17249 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.27913 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.33257 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.31529 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.31223 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.27635 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.39662 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.23828 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.24845 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4275 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33802 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.34265 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09918 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.23537 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10155 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38354 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.24329 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.24905 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49476 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.36694 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_10", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.59833 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47607 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.57353 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60166 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.54711 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.50955 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64002 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.4727 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.49868 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.55686 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52756 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.51958 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.55539 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42069 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.36516 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.42838 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.42976 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.33497 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.4416 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46557 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.34418 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42254 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.39961 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.46798 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.4623 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.435 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.32858 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.22036 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.35025 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.40712 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.18301 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35951 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.42289 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.18986 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.32391 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37512 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.37355 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.36622 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.32625 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.43319 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.28389 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28469 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45611 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.38293 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.36948 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12038 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25702 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.11951 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42599 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.28803 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.29621 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51974 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39358 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_50", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.61534 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50011 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59379 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61804 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56697 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53305 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65388 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49078 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52407 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57168 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55231 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54236 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57557 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45449 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.39907 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46133 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.46366 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.36108 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47578 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49081 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.36786 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45337 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.43305 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49266 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48873 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.46984 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36477 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.25697 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38697 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44386 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.20703 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.39955 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45482 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20281 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3677 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40949 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42509 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40989 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.37318 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46545 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.33331 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32031 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.47843 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.4135 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39345 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14082 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27762 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13797 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46508 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32147 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34315 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5344 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41071 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_100", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.61677 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5026 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59526 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61938 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.56903 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.53525 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65492 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49304 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52632 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.57309 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55452 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54441 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57736 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45711 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.40217 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46422 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.46634 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.36368 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.47852 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4929 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.37038 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45595 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.43617 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49482 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.49095 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.47321 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.36871 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.26164 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39046 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44731 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.21084 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40363 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45711 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20428 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.37183 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.41268 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.42945 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41294 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.37806 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.4688 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.33852 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.326 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48052 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.41585 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39617 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14337 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28009 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14044 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46902 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32475 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34891 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.53543 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41251 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6178 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50433 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.5963 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.62018 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.5703 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5365 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.65544 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49465 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52793 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.5741 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.55585 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54573 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57863 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.45882 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.40431 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46571 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.46783 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.36539 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.48023 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49405 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.37227 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45754 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.43798 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.4961 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.49246 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.47514 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.37121 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.26542 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39256 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.44959 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.21386 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40627 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45844 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.20581 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.37462 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.41475 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.43206 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41504 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.38132 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47084 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34181 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32966 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.48183 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.41707 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.39806 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14568 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28185 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14263 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.47125 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32699 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.35263 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5362 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41383 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.4546 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.31614 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.3892 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.4548 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.39069 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.34265 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.42305 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.3352 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33433 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.40052 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.32908 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.35744 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.40054 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.23623 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.1861 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.23287 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.22879 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.18872 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.24237 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.26164 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.20647 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22868 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.2248 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27542 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.26754 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.22698 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.16335 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.09731 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.14937 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.22289 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.09789 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.171 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.2186 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.11114 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.14345 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.18339 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15017 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.15065 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.13543 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.2612 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.10783 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.13039 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.25331 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.18006 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21993 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.04693 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14355 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.04797 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.23334 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.1125 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.1186 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.34174 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.20511 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.58557 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.446 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55332 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60809 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.53159 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.49669 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.61541 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.4704 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.47812 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56563 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.49334 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.51054 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.53242 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.38724 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.33066 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.38822 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.39155 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.31423 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.40275 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.43278 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.33921 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.38431 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.37066 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.43949 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.44185 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.38604 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.29489 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.18666 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30088 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.36328 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.17398 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.30857 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.37902 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.19012 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.26567 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32612 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.28549 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.2959 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.26387 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.39798 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.22409 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.23882 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.44743 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.35281 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3647 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09981 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24764 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10928 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38301 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.23593 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.2337 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5085 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.38834 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64404 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.51939 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62331 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67215 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.59279 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.55776 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.696 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.52746 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53959 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.63198 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.56766 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.57396 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59434 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.46542 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.40503 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46198 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.47511 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.39439 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.48225 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52087 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.40526 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.46802 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.45279 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.47445 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3691 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.23672 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.37789 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43063 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.21503 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.38235 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.46019 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.24341 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33986 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40501 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.37627 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.38433 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.33968 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47106 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.29791 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.30675 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52334 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.45123 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.42483 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14531 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.29975 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14554 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46089 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31361 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.3056 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59367 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4653 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71712 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59669 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71593 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.73952 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.65641 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64071 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77414 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.59843 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62179 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.70083 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.65563 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6533 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.67007 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57836 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.51119 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57194 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.58598 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.48757 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.59388 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.62341 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49872 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.58169 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.62875 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63173 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.58366 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.473 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31626 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.49198 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5353 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.27643 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.48856 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56916 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.32376 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44296 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50328 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.49993 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50234 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.4513 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.56717 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40977 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40003 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61803 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57767 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51479 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20629 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.36185 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20516 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.57176 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.42308 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41223 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.66409 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54581 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.82636 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75402 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.84275 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.8471 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79195 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.78926 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.86562 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73645 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.77278 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.81657 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80737 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.79602 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79759 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.76356 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70481 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.75786 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.78138 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68142 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.77547 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.78124 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67359 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.76753 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.74179 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.79136 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.78788 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.76951 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.67606 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.53533 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.70626 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.73229 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.45105 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.69959 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.74862 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.49106 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.67086 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.68933 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.73175 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.71664 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68672 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.76561 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.67571 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61129 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.78368 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.76719 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.70157 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34846 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51212 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.34228 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.78709 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.62177 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.64765 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.77514 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.69813 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.86011 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.8067 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.87981 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88032 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.84171 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.83816 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.895 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.79299 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.81681 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.85048 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.85167 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.83968 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.835 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81947 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.76617 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.81667 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.8327 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.74203 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.82594 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.83294 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.73631 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.82293 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.80645 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.83992 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.83154 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.82939 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.74665 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61638 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.7741 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7922 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52638 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.76647 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.80236 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55796 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.74529 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.7525 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.80118 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.77153 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.76544 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.8311 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.7639 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.7033 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.83849 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.82526 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.77334 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.41234 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.57755 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.4052 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.85118 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.69026 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.73611 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.81824 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.76211 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.93758 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.92426 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.95677 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.94136 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.94065 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.92773 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.95143 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.91638 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.92598 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.92978 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.94482 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.9298 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.92768 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.92888 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.9058 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.92383 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.92836 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.89177 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.93341 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.92853 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.88139 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.93645 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.92071 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.93462 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.92876 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.94163 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.89113 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.83583 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.91448 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.91412 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.73129 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.91313 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.91061 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.8181 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.89533 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.87781 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.92748 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.90411 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.92251 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.95361 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.93136 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.88415 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.94411 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.93845 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.92325 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.62509 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.76864 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.60935 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.9633 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.85542 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.91326 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.94534 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.94465 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7087 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68373 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.73438 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69031 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.73456 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66849 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72142 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.64011 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67159 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65242 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74133 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69553 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73926 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56506 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52437 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5761 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.56074 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44202 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58365 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.55417 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.42522 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.54858 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.54818 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57296 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58082 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59366 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47298 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43867 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48675 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5893 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32904 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55769 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48297 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.18637 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53868 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.53338 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.57291 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51234 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53319 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.62281 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.49467 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47662 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53587 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44761 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.49025 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16499 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3338 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18379 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63169 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43006 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48512 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52997 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.3966 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.36039 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.38077 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.40402 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.35206 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.39044 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.383 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.41679 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.33906 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.38057 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.34639 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.43545 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.37872 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.38504 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.37354 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.37272 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.38728 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.3903 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.28976 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.40041 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.37384 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.27751 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.37294 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.35824 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.36644 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.37278 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.40905 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33679 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31385 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.38022 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39528 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22985 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.40311 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.34494 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.12626 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38539 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37933 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.43999 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.39937 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.40708 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.38857 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.37644 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33937 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.35822 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33518 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30806 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13702 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2223 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14978 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41727 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3338 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.369 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.31651 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.28199 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.25739 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.28539 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.28943 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.24733 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.27794 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.27601 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.3042 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.24011 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.2803 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.24601 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.31994 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.2764 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.27983 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.2924 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.29586 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.30037 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.31132 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.23176 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.31627 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.29327 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.21585 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.29611 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.28701 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.28495 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.28925 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.32979 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2755 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.25166 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.30442 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.3102 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.18469 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.32249 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.27864 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.10095 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31691 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.30371 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.37415 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.33701 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.33245 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29575 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31307 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27662 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.26501 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.27314 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.22975 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12195 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.17474 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12504 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.32402 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.27784 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.30684 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.23612 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.21566 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.15623 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.17764 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.17827 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.14874 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.16544 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.17266 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.18046 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.14554 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.17808 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.14694 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.19783 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.17102 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.17087 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.20037 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.19941 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.20193 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.20686 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.15425 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.21272 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.19283 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.14514 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.19813 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.19099 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.1838 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.19265 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.22028 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.19474 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.17792 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.21075 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.21222 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.12876 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.22522 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.19474 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.06937 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.22249 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.20712 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.26489 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.2381 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.2382 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.19484 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.22307 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.19661 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.1642 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.18827 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.14794 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09419 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.11367 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09052 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.21787 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.19792 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.22357 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.14322 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.13685 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.04016 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.04895 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.04565 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.03819 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04354 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.04705 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.04232 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.03982 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.04933 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03764 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.05247 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04631 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.045 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.05865 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.05885 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.05788 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.05975 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.04606 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.06077 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.05143 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.0435 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.05583 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.05703 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.05045 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.05273 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.06332 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.06155 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.06274 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.06331 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.06412 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.04546 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.06994 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05576 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.02088 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.07132 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.06212 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.08205 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.07157 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.07701 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.05762 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.07603 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.066 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.0453 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05264 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04328 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03323 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.03514 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03156 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.06619 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.05902 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.07604 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0356 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.0361 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.02139 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02678 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02403 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.02027 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02357 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02545 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.022 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.022 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02657 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.01998 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02801 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02485 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02401 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.03164 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03208 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.03134 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.03219 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.02528 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.0328 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02752 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02404 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.03008 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.03135 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02713 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.02831 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03459 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03457 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.03633 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03474 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03534 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.02712 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.03871 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.02987 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01174 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.03951 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.03412 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.04491 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.03852 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04313 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03182 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04275 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.03873 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02447 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02813 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02403 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01956 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01991 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.01859 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.03649 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.03261 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.04386 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0186 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.01963 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.0024 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00315 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00266 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00225 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.0027 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00288 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00233 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00263 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00306 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00225 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00314 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00282 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00276 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00364 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00378 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.0035 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.0036 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00301 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00372 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.00304 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00293 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.0034 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.0036 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00305 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00393 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00419 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00486 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00403 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00416 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.0038 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00459 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00333 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00165 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00473 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00402 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00518 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00446 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00517 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00371 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00509 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.005 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.0028 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00311 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00287 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00283 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00251 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00271 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00419 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.0039 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00543 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00206 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00231 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7087 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68373 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.73438 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69031 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.73456 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.66849 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72142 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.64011 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67159 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65242 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74133 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69553 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73926 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.56506 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52437 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.5761 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.56074 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44273 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.58365 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.55417 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.42522 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.54858 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.54818 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57219 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58082 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59366 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47298 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43867 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48675 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5893 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32904 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.55769 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48297 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.18637 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.53868 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.53338 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.57291 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51234 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.53319 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.62281 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.49467 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.47662 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53587 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44761 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.49025 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16499 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3338 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18452 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.63169 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43006 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48512 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52997 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.39574 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76341 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74046 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79353 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75398 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78517 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.73365 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77641 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7025 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.73235 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72317 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7966 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.76606 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78672 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64449 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.60721 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65145 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.64733 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.51769 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.66577 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63104 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.50609 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.62593 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.62733 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.64744 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66899 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.67306 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.56144 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.51383 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.57131 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.661 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40653 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.63819 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55444 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2354 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.60602 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60757 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64824 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5947 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61357 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.6965 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57044 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54801 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.61286 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.53794 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.56462 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21772 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3892 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.24349 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.71105 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51039 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.5598 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5853 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46213 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.77301 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74942 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80037 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76564 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79381 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74131 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78495 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71208 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74025 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7345 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80701 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.7735 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79448 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65911 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.61992 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66177 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.66134 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.53469 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67864 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64308 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52201 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.638 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.64444 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66028 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68295 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68449 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.57968 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.52866 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.5843 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.67239 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42266 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6525 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56895 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2502 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.61927 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.6207 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6642 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60965 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.62659 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.70828 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58691 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.566 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.62688 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55685 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.57448 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23375 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40072 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.25648 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.7236 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.52645 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.57336 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.5982 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4743 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.77695 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75349 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80356 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77002 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79678 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74659 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78827 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71727 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.745 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73926 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80942 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77711 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79876 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.66753 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62913 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66852 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.66872 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.54277 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68597 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65078 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53372 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6463 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65101 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66941 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68913 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69202 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5889 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.53823 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.59362 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.68084 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.43447 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.65916 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57772 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26009 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.62772 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.62833 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.67201 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.61815 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.63631 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.71498 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59768 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.57757 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.63588 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.56625 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.58326 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24426 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.40621 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26663 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73055 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53543 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58353 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60301 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48134 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7789 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75669 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80515 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.772 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79919 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74939 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78984 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72075 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74766 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74147 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.81101 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77891 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80053 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67099 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63301 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67286 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67227 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.54906 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68909 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65477 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53852 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6504 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65489 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67285 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.69218 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69563 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59376 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54547 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.59908 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.68554 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44211 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6632 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58256 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26795 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63268 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.63236 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.67607 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6221 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64124 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.7188 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.6033 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.58272 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64012 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57054 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5881 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25135 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41118 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27305 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73357 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.54096 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58962 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60618 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48683 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.77908 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75691 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80534 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77213 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79939 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74959 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78999 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72105 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.7478 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74161 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.81116 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77903 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80073 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67129 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63329 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67307 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67243 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.54944 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68927 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65509 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53897 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65071 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65527 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67305 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.69238 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.6958 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.5941 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54585 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.59943 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.68573 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44274 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.66351 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58294 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26881 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63314 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.63266 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.67631 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62241 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64151 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.71898 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60362 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.58312 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.6405 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57092 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.58862 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25224 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41185 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27383 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73372 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.54143 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58996 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60671 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4875 + } + ] + }, + { + "config": { + "retrieval_model": "inf-retriever-v1-1.5b", + "retrieval_model_link": "https://huggingface.co/infly/inf-retriever-v1-1.5b", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2025-02-17T06:13:10Z", + "is_anonymous": false, + "revision": "62a5f71c525253b71e8ba12badc0754c" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.77918 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75702 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.8054 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77221 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79948 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74971 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79012 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.72119 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74795 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74173 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.81126 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77911 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.80083 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67141 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6335 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.67324 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67254 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.54976 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68942 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65525 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53924 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65085 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65543 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67319 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.6925 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69593 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59427 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.54614 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.59965 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.68586 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44309 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.66368 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58319 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.26961 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63331 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.63282 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.67638 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62262 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64168 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.71908 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.6038 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.58334 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.64065 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.57117 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.58887 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.25289 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.41236 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2745 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.73381 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.54171 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.59018 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6071 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48808 + } + ] + } +] \ No newline at end of file