diff --git a/AIR-Bench_24.05/bge-multilingual-gemma2/NoReranker/results_20241201070953-bafcc7e29c407a1663cd82baebf9b8af.json b/AIR-Bench_24.05/bge-multilingual-gemma2/NoReranker/results_20241201070953-bafcc7e29c407a1663cd82baebf9b8af.json new file mode 100644 index 0000000000000000000000000000000000000000..aac78a3859b22a620e268d3151d1e7dd044394e9 --- /dev/null +++ b/AIR-Bench_24.05/bge-multilingual-gemma2/NoReranker/results_20241201070953-bafcc7e29c407a1663cd82baebf9b8af.json @@ -0,0 +1,14492 @@ +[ + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13558 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20125 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14255 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6269 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45975 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.42268 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.55516 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.5186 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51813 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56342 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.5303 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58742 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53846 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54451 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46333 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57618 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52338 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49414 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.49467 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.72107 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.50867 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58729 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.39826 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41205 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44681 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69803 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68234 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.72247 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67528 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80809 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71522 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70066 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75678 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73338 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73254 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66026 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74176 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68216 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.17762 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.48263 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.61496 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52928 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54566 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60837 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64512 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59576 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59292 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.661 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58824 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58778 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60894 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.59545 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.61758 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12605 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18748 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13745 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.56207 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45483 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40326 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.4873 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.4526 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47824 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50975 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.45233 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.52536 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.50249 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.50107 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.51679 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51462 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.46424 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.43235 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.43446 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.61851 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48998 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52052 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.4465 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.37383 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44803 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67158 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66228 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64227 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.61011 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71824 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67348 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.65038 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.65027 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.62791 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.64745 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.62692 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65647 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6048 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.19843 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.42034 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.56196 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.51137 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.49688 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.56529 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60225 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55481 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57069 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59577 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54915 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55663 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.54962 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55421 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57565 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.12956 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19991 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13944 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55203 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.46747 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.40167 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.46782 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.43364 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.47317 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.49027 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42319 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5013 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.48932 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.49145 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.5464 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.49679 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.43853 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4442 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40506 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.60576 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.51004 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.49841 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.47196 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.36309 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47065 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68493 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69176 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65259 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.608 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.72014 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.68835 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.65699 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.6461 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.63234 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65509 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64806 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.66161 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60973 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.21226 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.41296 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.56143 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52565 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50279 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.56777 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.60719 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.55295 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.56748 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.58873 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.56144 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56983 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.54515 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56223 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57168 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14288 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.22604 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1575 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.56797 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.50293 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.43424 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.48409 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.44888 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.49896 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.5065 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43403 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51638 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51509 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.52048 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.58771 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.51478 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.45126 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.47483 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.42352 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.63128 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55402 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51103 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50083 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.39233 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5025 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71285 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72796 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.68643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63419 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.75392 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71789 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68912 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.6757 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.6678 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.68291 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67908 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.69485 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64147 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.23999 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.4413 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.59538 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.56479 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.53036 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.59973 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64499 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.58202 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59996 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.62432 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.59644 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.60263 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.57719 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.59681 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.6012 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18826 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27814 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20493 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64281 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57136 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.5208 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.57573 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.53799 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.58119 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.60529 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.53353 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.61227 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5989 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.59327 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.62612 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.60517 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.54871 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53599 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.52803 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.702 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61597 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.61573 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.54243 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.46883 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54362 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74887 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75677 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.7304 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.69026 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79482 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75337 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.73539 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.73004 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72145 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.72841 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71456 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74145 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.69605 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30488 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.52847 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.66148 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.6222 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.59999 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66189 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70432 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.65046 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.67225 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.69511 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.65421 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.66061 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.64653 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65491 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67089 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20209 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.29614 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22078 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65643 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.58473 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.54036 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.59347 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.55838 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59851 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.62526 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.55755 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6304 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.61418 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.60762 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.63418 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.62302 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.57215 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.5512 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.5517 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.71495 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.62498 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.63593 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55228 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48712 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.55513 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75473 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76059 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.73837 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.70159 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80078 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75969 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.7424 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74071 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73036 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73688 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72173 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74908 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.70494 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.32747 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55121 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67235 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63101 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61441 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.67225 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.7115 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.66301 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68363 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.70551 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66307 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67043 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65827 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66642 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.68161 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.24435 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.3339 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.26014 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.67727 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.60246 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.56454 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.61995 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58688 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.62173 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.64979 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.59041 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.65408 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.63513 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.63012 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.64368 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.64523 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60262 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57697 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.58321 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.72963 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.63824 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.65968 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57094 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51585 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.57928 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76322 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76712 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74911 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.71552 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80888 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76901 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75098 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75222 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74329 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.74926 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73107 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.75974 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.7186 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.37098 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58299 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.6864 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64541 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63222 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.68607 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.72097 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67817 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69685 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.71739 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.67872 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68608 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67449 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68144 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.69663 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03663 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.07575 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03757 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2323 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20666 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12835 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.1527 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.1513 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.17998 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.14424 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11925 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15053 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.15914 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.19094 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31012 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.17318 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.13716 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21859 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.1059 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29325 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.21229 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.14372 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.24903 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.10456 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2329 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.45292 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.39859 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.3788 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33422 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.4256 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.44314 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.36824 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.34291 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.32328 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.38096 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.39544 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.38482 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.34184 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.08007 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.17734 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.24781 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.24698 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.21451 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.25081 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.291 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.24716 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.22794 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23893 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27701 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.26902 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.25284 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.2835 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.25739 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.06495 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.12132 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.07149 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35256 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.31872 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2308 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.26055 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.24459 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.28617 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.25909 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.21253 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.26842 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.28223 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.30817 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.43827 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.28969 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.23891 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.32149 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.20336 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.41829 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.33803 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.25817 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.37217 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.19536 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.37305 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.57189 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.55785 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.51603 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.45804 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.57794 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.56681 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.5063 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.47755 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.46391 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.50565 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.5258 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.51985 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.46689 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.13435 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.25816 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.37583 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.36418 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3305 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.38713 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.43754 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.3678 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.36703 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.38092 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.40686 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.39914 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.3653 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.40764 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.38855 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07997 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14495 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08702 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.40631 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.36577 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27833 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31205 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.28758 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33351 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.31579 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.25772 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.32737 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.34051 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.35812 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.47378 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.34119 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28291 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.35407 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.24941 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46893 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.39893 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.3204 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.40789 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.23897 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41337 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.60616 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.61319 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55827 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.50008 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62329 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.60478 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.5523 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.52626 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.51681 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.55135 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56371 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.56389 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.5069 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.15272 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.29024 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.43042 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.41523 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.38102 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.44547 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.4946 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42012 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.4258 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.44526 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.45708 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.45217 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41357 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45364 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.44166 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09496 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16845 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.1037 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.45778 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.41388 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.32559 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.36759 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.33335 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.38299 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.38194 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.30868 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.39322 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.40211 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.41168 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.50337 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3944 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33151 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.3779 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.30093 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.51703 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.4536 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39034 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.43458 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.28427 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44243 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63284 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6488 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59169 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.53627 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66295 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.63627 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.5922 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5703 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.56078 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58608 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.59093 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.6005 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.54189 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.16972 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.32406 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.48465 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.46305 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.42485 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.49421 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.54765 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.4707 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.48502 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.50792 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49795 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.49573 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.46462 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.49987 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.49374 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1107 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.18869 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12045 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49727 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44747 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.36705 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.41594 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.37655 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42436 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.43657 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.3574 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.44702 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.44688 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44913 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.51824 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44128 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.37866 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40048 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35121 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.5539 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48519 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.44878 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45165 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31992 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45806 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64909 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66246 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.6123 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56347 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68438 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65428 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6161 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.59795 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.58796 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.60878 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60635 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62309 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.56894 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.1899 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.36022 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.51893 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49034 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.45919 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.52571 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.57834 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.50735 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52426 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.54877 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52423 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52485 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50045 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.52921 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.52982 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11263 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19137 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12269 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.50029 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.44984 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.37074 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.41983 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38078 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42816 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.44118 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.36263 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.45129 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45012 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45203 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.51944 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44527 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.38387 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.40293 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35642 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55678 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48689 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.45351 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.453 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32315 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45956 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65015 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66311 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61367 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56578 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68555 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65542 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61748 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60014 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.58975 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.61056 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60763 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62452 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57066 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.19309 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.36488 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.52117 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49206 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46204 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.5277 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.5798 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.50992 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52678 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55104 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52595 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52692 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50295 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.53127 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53204 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1149 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19332 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12485 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.50211 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45117 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.37268 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.42216 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38336 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43028 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.44357 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.36592 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.45348 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45197 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45406 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.51996 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44731 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.38696 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4047 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35945 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.55808 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.48767 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.45596 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.45381 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.3253 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.46076 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65082 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.66354 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.61447 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.56695 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6862 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.65608 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.61815 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60112 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59079 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.6115 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60838 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62538 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57173 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.19577 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.36794 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.52236 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.49312 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46348 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.52879 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58046 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51118 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.528 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.55207 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.52721 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52814 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50436 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.5324 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53347 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03663 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.07575 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03757 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.2323 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.20666 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.12835 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.1527 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.1513 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.17998 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.14424 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11925 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15053 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.15914 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.19094 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.31012 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.17318 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.13716 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.21859 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.1059 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.29325 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.21229 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.14372 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.24903 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.10456 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.2329 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.45292 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.39859 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.3788 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.33422 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.4256 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.44314 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.36824 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.34291 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.32328 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.38096 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.39544 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.38482 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.34184 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.08007 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.17734 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.24781 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.24698 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.21451 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.25081 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.291 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.24716 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.22794 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23893 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.27701 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.26902 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.25284 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.2835 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.25739 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.08502 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14579 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.09203 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.3921 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.36872 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.27569 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.29402 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.28188 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.33426 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.29721 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24205 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.30146 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.32472 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.3549 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.5348 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.33206 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.27639 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.37358 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.23439 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.4579 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.39581 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.28479 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.44762 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.23484 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.4254 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63699 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.61928 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.56966 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.51037 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.62507 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62025 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.57525 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.52083 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.50994 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.55447 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.59627 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.56825 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51739 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.1838 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.30673 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.4281 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.42518 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3798 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.44245 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.49078 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42449 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.42572 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.425 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.46353 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.46377 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.41665 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.45913 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43815 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11932 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20216 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12858 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.48456 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.46086 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.36562 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.3811 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3588 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42606 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.3906 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.31987 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.39239 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.41957 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.44002 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.62907 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42001 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.35002 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.45126 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.31394 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.54473 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.51532 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.38126 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.52958 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.31525 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5024 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70809 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72292 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65068 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58893 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.70343 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69788 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.65733 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.60852 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60681 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.63917 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.68019 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.64825 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.6003 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.23738 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.38237 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.52665 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5287 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.47717 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.54191 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58588 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.51994 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52859 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.53447 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.56475 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.56657 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.50553 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54945 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53244 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16675 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27758 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18414 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.59736 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57892 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.48515 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.49938 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.46665 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54517 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.52985 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.43816 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5312 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.5504 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.56381 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.73832 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.54043 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.46438 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.53439 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.4358 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.65573 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65031 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.51956 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61011 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.42725 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.58225 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78382 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81562 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.74052 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.6773 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79783 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78187 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75377 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.7122 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71472 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.72441 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.7637 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74435 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.69302 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.31355 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.48767 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.65331 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.65106 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.58451 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.66036 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.71323 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63938 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.66106 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.67304 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66869 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.67681 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63201 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66433 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.65409 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.29323 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.43136 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.31498 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.78794 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.76858 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.71561 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.7291 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.69114 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.75438 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.77016 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.68464 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.76503 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.76499 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.75257 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.87083 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.76851 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.70475 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.72819 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.70054 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.84572 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.82926 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.77435 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.74573 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.63266 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.71771 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88922 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.90427 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.86915 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.83604 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.91359 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.88144 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.88221 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.86224 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.86511 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.85254 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.8705 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.87906 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.84605 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5171 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.72185 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.8309 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.81608 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.77682 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.83492 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.88312 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.81974 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.85117 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.85947 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.83371 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.83673 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.81614 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.82676 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.83913 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34586 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.51001 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.37715 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.83753 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.82502 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.79282 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.79266 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.76364 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.81614 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.83903 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.76745 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.82842 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.82175 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.8055 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.91054 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.83247 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.7848 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.79356 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.7862 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.89538 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.86861 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.84409 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.7963 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.70531 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.77505 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.91403 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.92173 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.90378 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.88064 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.93776 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.9074 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.91077 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.90457 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.90108 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.88562 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.9017 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.91156 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.88296 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.61509 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.80558 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.87352 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.85195 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.83424 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.87846 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.9131 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.86988 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.89412 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.90026 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.86957 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.874 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.86016 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.87629 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.8806 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.56986 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.75011 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.58792 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.93833 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.92616 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.92 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.92107 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.89906 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.9254 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.95278 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.9162 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.94246 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.92497 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.91425 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.97594 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.93933 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.9202 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.94181 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.93801 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.97234 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.95723 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.95245 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.93386 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.85636 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.94624 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.96066 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.96255 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.9634 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.95285 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.98156 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.96129 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.95739 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.96451 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.97037 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.95522 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.95478 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.96962 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.95809 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.86998 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.95665 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.94754 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.93508 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.93217 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.95633 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.97068 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.94869 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.96082 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.96477 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.95434 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.95872 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.9442 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.96302 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.95611 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13558 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20125 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14255 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6269 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45975 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.42268 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.55516 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.5186 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51813 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56342 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.5303 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58742 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53846 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54451 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46333 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57618 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52338 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49414 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.49467 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.72107 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.50867 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58729 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.39826 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41205 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44681 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69803 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68234 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.72247 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67528 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80809 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71522 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70066 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75678 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73338 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73254 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66026 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74176 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68216 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.17762 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.48263 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.61496 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52928 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54566 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60837 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64512 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59576 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59292 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.661 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58824 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58778 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60894 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.59545 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.61758 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11095 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.14943 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12518 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.43745 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.33669 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3515 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.41905 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.38031 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.3849 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.4501 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40284 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.46349 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4359 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.40455 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.30026 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42998 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.40498 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.31064 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.39689 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.46128 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.37266 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.4642 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.27655 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.33518 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.30894 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.37968 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.42378 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.42014 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.41033 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.47083 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.39517 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.42583 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.45658 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.45159 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.42179 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.37702 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.42926 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.40533 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.15211 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.32248 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.42965 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.36823 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3858 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.43 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.44296 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.41813 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.45157 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.47612 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.39037 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.40191 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40852 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.39008 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43511 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.09842 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.12894 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10796 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35531 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.27663 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.29411 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.34943 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.31245 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.31799 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.37773 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.33535 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.3895 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.36372 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.32923 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.2233 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.3534 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.32986 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.23397 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.33107 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.36003 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.31409 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.39646 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.21278 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.28241 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.23574 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.27247 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.32084 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.30729 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.30923 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.34235 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.28957 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.32032 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.34684 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.34538 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.31662 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.27436 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.31896 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.30198 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.1239 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.25499 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.3466 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.29854 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.31403 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.34574 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.34715 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.33596 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.36726 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.38818 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.30848 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.32251 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.32696 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.30517 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34742 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07389 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.09438 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.08075 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.24136 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.19675 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.20825 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.24878 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.21974 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.22398 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.27581 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24214 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.28079 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.2582 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.23212 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.13926 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.24645 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.23469 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.14649 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.23893 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.2358 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.21437 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.28994 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.13304 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.20028 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.14715 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.16383 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.19327 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.18743 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.19631 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.20993 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.17732 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.20182 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.22078 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.21922 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.1963 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.16517 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.19636 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.19098 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.08643 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.17612 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.23473 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.20102 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.20898 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.22691 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.22916 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.228 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.2528 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.26484 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.19855 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.2106 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.22332 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.20345 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.2347 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02723 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.03148 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02884 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.06996 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05714 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.06479 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.07726 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.07072 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.0686 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.0858 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07954 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.08601 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.0756 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.067 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.03436 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.07646 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.07747 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04179 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.07857 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.06558 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05699 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.09175 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03451 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.06035 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03782 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.04093 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.0443 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.04728 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.05331 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.0515 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.04401 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.05149 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.05786 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.05675 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.05022 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.04085 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04981 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.05135 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.0317 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.05962 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.06383 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.05356 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.0592 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.06099 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.05973 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.0637 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.07037 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.07154 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.05337 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.05654 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.06292 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.05505 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.06571 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.01615 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01838 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.0172 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.03761 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.03067 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03565 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.04208 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.0394 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03767 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04703 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.04477 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.04669 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.04064 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.03622 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01808 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.04176 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.04368 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02313 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.04383 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03505 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02978 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.0501 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.01833 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.03321 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.02023 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.02136 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.02266 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02475 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02859 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.02668 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.02301 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02688 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.0307 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02979 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02654 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.02147 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.02604 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02705 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.01916 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.0341 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.03375 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02815 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.03198 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.0321 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.03099 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.03394 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03724 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03756 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02809 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.03002 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.03357 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02922 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.03474 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00259 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00246 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00261 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00426 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00338 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00407 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00484 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00464 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00434 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00532 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.00532 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00524 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00454 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.00416 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00472 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.0052 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00278 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00512 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00381 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00317 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00562 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00205 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00392 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00232 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.0023 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00236 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00268 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00316 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00282 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00247 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00285 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00331 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00289 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00231 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00281 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00297 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00272 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00416 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00366 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.00307 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00353 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00347 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00325 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00371 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00402 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00399 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00311 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00331 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00369 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00319 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.0038 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.13558 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.20125 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14255 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.6269 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.45975 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.42268 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.55516 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.5186 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51813 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.56342 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.5303 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.58742 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.53846 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.54451 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.46333 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.57618 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.52338 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.49414 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.49467 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.72107 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.51076 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.58729 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.39826 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41205 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.44681 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.69803 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.68234 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.72247 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.67528 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80809 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.71522 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.70066 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.75678 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73338 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.73254 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.66026 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.74176 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68216 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.17762 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.48263 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.61496 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.52928 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54566 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60837 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.64582 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59576 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.59292 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.661 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.58824 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.58778 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.60894 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.59476 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.61758 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18066 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24763 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19416 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.70186 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53947 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.52185 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.63204 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.60157 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.61584 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.65647 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61628 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.67047 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62458 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.63155 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.56054 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.661 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.61966 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56869 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57933 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.78698 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.59091 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.6601 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.48199 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.49804 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50553 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77247 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.75687 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.78993 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.74895 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86324 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.782 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78381 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.81325 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.7942 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80156 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.73659 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.80208 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.74778 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.26077 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.58092 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.69687 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61676 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.62584 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.69233 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.71844 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.68653 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.69346 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73351 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.66743 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68033 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.68831 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.6708 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.70046 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19421 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26213 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.20798 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.71505 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55604 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.53963 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.64633 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.61778 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.63187 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66985 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.63176 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6836 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.63789 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.64413 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.57948 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67527 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.63252 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.58461 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59703 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.79689 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.6094 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.6757 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.49615 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51746 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51447 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78093 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.76657 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.79819 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.75881 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86787 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7915 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.78945 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.82236 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80312 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.80826 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74827 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.80957 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.76022 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27777 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.59854 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.70987 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.63551 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.64076 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.70186 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.72676 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.69957 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.70777 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.74758 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68328 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.69417 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.70141 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68414 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.71261 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.20364 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27114 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21913 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72183 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56584 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.55013 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65409 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.62571 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64069 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.67827 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.64191 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.69172 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64725 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65195 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.58894 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.68307 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.6402 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59321 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.60669 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80089 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.61684 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.68372 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50274 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.52782 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52082 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78559 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77113 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80237 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.76218 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86985 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.7955 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79341 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.82554 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80759 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.81033 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75284 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.81386 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.76516 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.29029 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.60876 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.71649 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64416 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.64859 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.70858 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73369 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.7057 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.71331 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75335 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.68966 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.70202 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.70931 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69032 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.71975 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21055 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27791 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22626 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7248 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57101 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.55568 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65843 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.6309 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64473 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68169 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.64667 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.69492 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65085 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65526 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.59279 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.68682 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.64486 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59856 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61224 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80289 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.62041 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.68764 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50758 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53332 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52525 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78749 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77275 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80399 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.76473 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87079 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79672 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79498 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.82697 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80909 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.81166 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75483 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.81563 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.76712 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.29983 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.61365 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.71904 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.648 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65277 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.71106 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73662 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.70847 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.7156 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75557 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.69297 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.70433 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71221 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69347 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72249 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21137 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2789 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22715 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72499 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57141 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.55612 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65862 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.63118 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.645 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68188 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.64694 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6951 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65108 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65553 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.5931 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.68706 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.64517 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59899 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.6125 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80295 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.62066 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.68785 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50816 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53376 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5259 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78762 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77285 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.8041 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.76485 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87084 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79685 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79507 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.82708 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80921 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.81174 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75501 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.81578 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.76729 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30082 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.61389 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.71919 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64815 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65304 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.71122 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73672 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.70867 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.71573 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75568 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.69313 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.70445 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71231 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69376 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.7226 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21211 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.27962 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22775 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72511 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.57163 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.5563 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.6588 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.6313 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64508 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68198 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.64703 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.69518 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65121 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65566 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.59332 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.68714 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.64525 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59923 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.61263 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.80303 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.62088 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.68791 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.50859 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53401 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.52648 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78766 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77294 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.80418 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.76492 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.87087 + }, + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.79691 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.79514 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.82714 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80928 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.81183 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75505 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.81583 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.76737 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.30142 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.61404 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.71929 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.64826 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65319 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.71135 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.73684 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.70875 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.71581 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.75574 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.69327 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.70456 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71242 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69391 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72268 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63363 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67456 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.65318 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62535 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78804 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62202 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.6586 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59016 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45382 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.39763 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.40056 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_3", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.585 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.60599 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58915 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60248 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.72782 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55985 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.6063 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.52884 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56186 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.47669 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.41042 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_5", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.57335 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.59428 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.58649 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.63195 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.7127 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.57573 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60821 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54562 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.59918 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52625 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.42477 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_10", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.61377 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.63968 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.63686 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.68309 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.75401 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61031 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.65284 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59468 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.62539 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.56488 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.47961 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_50", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.69981 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.72175 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.7144 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.73431 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.81982 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.67281 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71157 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.67163 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.65535 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.61221 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.55767 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_100", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.71141 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.73206 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.7239 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74237 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82537 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.68768 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.72046 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.68274 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66125 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.61954 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5699 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "ndcg_at_1000", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.72211 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.74075 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.73292 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.74633 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.82777 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70157 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73248 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69082 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.66351 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.62384 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.58418 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.1927 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.22011 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.23485 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.31161 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.29353 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.28229 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35466 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.26654 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45382 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.31998 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.19037 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_3", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.3609 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.37648 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.3994 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.47776 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.50064 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.42766 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.50165 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.39727 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.53414 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.43068 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.31082 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_5", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.43294 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.4423 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.46142 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.5322 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.58042 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.48401 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.5308 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.44738 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55442 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.46266 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.34181 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_10", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.50067 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.5218 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.52606 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.57362 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.6523 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.52227 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.56294 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.49063 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56538 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.48262 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.37972 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_50", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.54911 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.56773 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56736 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.59869 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69208 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.54991 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.58797 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.52442 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57208 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49663 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.40972 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_100", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.55144 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.57004 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.56932 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60021 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69338 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55257 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.58958 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.52652 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57261 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49753 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.41165 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "map_at_1000", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.55233 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.57097 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.57016 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.60062 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.69367 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.55361 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.59055 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.52717 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57273 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49781 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.41258 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.1927 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.22011 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.23485 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.31161 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.29353 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.28229 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.35466 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.26654 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45382 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.31998 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.19037 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_3", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.40739 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.41797 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.43606 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.56036 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.5404 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.46486 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.55175 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.45137 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.64257 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53981 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.38294 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_5", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.52015 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.52936 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.54726 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.6722 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.65868 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.56779 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.60997 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.54854 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.73494 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.64837 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.45856 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_10", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.66139 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.69028 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.69832 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.79207 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79777 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.66718 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.71479 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.67076 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.81526 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.75124 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5965 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_50", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.89176 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.91297 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.91266 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.94476 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.96712 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.85092 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.89153 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.90621 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.94779 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.93299 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.84948 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_100", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.93962 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.95455 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.95243 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.97976 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.98868 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.91683 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.93056 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.95337 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.98394 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.97206 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.90842 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "recall_at_1000", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 1.0 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.99852 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.99855 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 1.0 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 1.0 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 1.0 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 1.0 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63363 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.67456 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.65318 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62535 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.78804 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.62202 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.6586 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59016 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45382 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.39763 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.40056 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_3", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.5025 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.50493 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.48266 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.4216 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.59239 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.40972 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.40143 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.38342 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.21419 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.23442 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.30345 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_5", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.41081 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.4071 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.38497 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.32394 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.4663 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.3256 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.2828 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.30383 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.14699 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.17567 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.22297 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_10", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.28168 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.28846 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.26069 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.20479 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.30652 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.20119 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.17581 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.20082 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.08153 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.10564 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.15126 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_50", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.07826 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.07822 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.07012 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.05155 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.07788 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.05405 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.04796 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.05672 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.01896 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.02718 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.04504 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_100", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.04102 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.04083 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.0365 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.0269 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.03989 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.02911 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.02522 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.02997 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.00984 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.01424 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.02395 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "precision_at_1000", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.00429 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.00426 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.00382 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.00276 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.00404 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.00311 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.00271 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.00313 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.001 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.00147 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.00259 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.63363 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.6716 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.65029 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.62535 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.79076 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.61905 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.66129 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.59016 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.45382 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.39763 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.40056 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_3", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.71672 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.75592 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.71917 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.73615 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.84964 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.67708 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.72894 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.66667 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.53414 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.49951 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5056 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_5", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.72603 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.76657 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.73781 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75122 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.85657 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69196 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.73768 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.68087 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.55442 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.52295 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.51919 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_10", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73063 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77052 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.7444 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75585 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.86068 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.69741 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74618 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.68873 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.56543 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.53462 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.52975 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_50", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73408 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77358 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.74758 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75728 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.86138 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70263 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74914 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69332 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57215 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.5419 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.5382 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_100", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73433 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.7737 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.74771 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75737 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.86142 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70301 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74929 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69345 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.57268 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54225 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53869 + } + ] + }, + { + "config": { + "retrieval_model": "bge-multilingual-gemma2", + "retrieval_model_link": "https://huggingface.co/BAAI/bge-multilingual-gemma2", + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "long-doc", + "metric": "mrr_at_1000", + "timestamp": "2024-12-01T07:09:53Z", + "is_anonymous": false, + "revision": "bafcc7e29c407a1663cd82baebf9b8af" + }, + "results": [ + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_400K-500K", + "value": 0.73446 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_600K-700K", + "value": 0.77373 + }, + { + "domain": "law", + "lang": "en", + "dataset": "lex_files_500K-600K", + "value": 0.74777 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_2", + "value": 0.75739 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_30K-40K_10-merged", + "value": 0.86142 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_40K-50K_5-merged", + "value": 0.70326 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "pubmed_100K-200K_1", + "value": 0.74939 + }, + { + "domain": "book", + "lang": "en", + "dataset": "origin-of-species_darwin", + "value": 0.69354 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gemini", + "value": 0.5728 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "gpt3", + "value": 0.54236 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "llm-survey", + "value": 0.53888 + } + ] + } +] \ No newline at end of file