diff --git a/AIR-Bench_24.04/bge-en-mistral zero-shot/NoReranker/results_20240725130501-a489ce09d579aac8d5b5cb4045c34ce8.json b/AIR-Bench_24.04/bge-en-mistral zero-shot/NoReranker/results_20240725130501-a489ce09d579aac8d5b5cb4045c34ce8.json deleted file mode 100644 index b2f383804362d2b9a221109cb3d89fa8c558f8d4..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-en-mistral zero-shot/NoReranker/results_20240725130501-a489ce09d579aac8d5b5cb4045c34ce8.json +++ /dev/null @@ -1,5882 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22932 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51797 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55829 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47634 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48354 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53661 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21999 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5182 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51793 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50238 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44264 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22693 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52387 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53262 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52077 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44693 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51332 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.251 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55109 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57246 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54813 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48464 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54399 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30422 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61404 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63091 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58172 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68281 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55097 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60105 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32106 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62528 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64116 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58971 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6901 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56596 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6132 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35609 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64092 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58661 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09044 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23069 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.25417 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30387 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38554 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20577 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25865 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1439 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36507 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39725 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42801 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50841 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3119 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36819 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16617 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41642 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44039 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.462 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34632 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40905 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19079 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46612 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47473 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4885 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38071 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44625 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21205 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49788 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49992 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50288 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58208 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40815 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21443 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49998 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5017 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50393 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4108 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47478 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21616 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50109 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50275 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50461 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58408 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41226 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47597 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09044 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23069 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.25417 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30387 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38554 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20577 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25865 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17461 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41864 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4557 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49021 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55998 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37327 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42612 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22393 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50661 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54124 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44743 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51042 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29813 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61447 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64947 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.63891 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55489 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61217 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45961 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.7886 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.86761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.82608 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74855 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.81517 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.75602 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.77324 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.53672 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.835 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.90572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.87087 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.79031 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.84813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.82074 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.82326 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.76007 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.92517 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.96729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.95498 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.92184 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.92494 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.94501 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.91604 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22932 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51797 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55829 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47634 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48354 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53661 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1725 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37727 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30452 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37251 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32717 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35345 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1427 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31623 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46852 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.28787 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.22612 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24945 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27499 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.103 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21425 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18131 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.1405 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1643 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18114 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03326 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05901 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08858 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0489 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03465 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04765 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.05004 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01895 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.03129 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02591 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01815 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.02069 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02601 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02694 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00248 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00341 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00284 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.002 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00295 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00301 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22932 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51797 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55829 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47634 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48354 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53661 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28123 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5981 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63972 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5429 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72013 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57491 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62136 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29392 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61136 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7568 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65258 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55274 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58765 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63589 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3026 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61892 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66128 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55904 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59706 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64296 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30865 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62344 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66516 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56246 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60138 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64704 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30965 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62367 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6654 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56293 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60167 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64731 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3103 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62386 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66551 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56333 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73515 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60189 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64745 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55856 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63441 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59563 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48996 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53689 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55013 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71157 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5618 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58767 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54674 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51387 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63559 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53192 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54797 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60291 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56184 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69593 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55422 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52116 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66185 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58123 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57838 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66483 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60062 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6788 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.646 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61445 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74897 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68266 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66623 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82165 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70247 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68138 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78827 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63597 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70722 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67466 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68052 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6963 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71363 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69139 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.79057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67674 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64565 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70855 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68734 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69259 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72458 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70109 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71148 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.1876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32666 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34104 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33551 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32122 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48996 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34961 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32743 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.48604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47928 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56494 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46118 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60107 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41021 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40163 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47096 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52205 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45722 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61553 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46623 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46014 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4743 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55348 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50482 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51565 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62414 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50882 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52458 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69079 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58182 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57701 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53623 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49907 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62967 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51067 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51085 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52733 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60283 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5792 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53809 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52688 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62979 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51186 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59758 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58018 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5389 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50097 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62997 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.1876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32666 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34104 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33551 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32122 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48996 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40523 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38452 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3762 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53017 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46583 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54646 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73494 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49093 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49666 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61526 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57045 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.7992 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6596 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66184 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71737 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70049 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.86371 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.76114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.81949 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.688 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.86345 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.897 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88425 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.90566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.84011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89104 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90062 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.94565 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89669 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92995 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.95697 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95641 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.99078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.90106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.97096 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.95313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.93833 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.94364 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.99842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.97357 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97799 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.93873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97992 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.99846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.999 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.99768 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.99705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.9994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55856 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63441 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59563 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48996 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44316 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46547 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5788 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.39247 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40619 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.42432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31391 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.26508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35107 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.24498 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35954 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38619 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.4712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.3138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29916 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.2914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31639 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.18872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15984 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.27522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.20394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.18487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.18011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21038 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.14601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08635 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07682 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05661 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03669 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02777 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01944 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03592 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.04083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.0374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.04003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02532 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02973 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.0189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02457 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0098 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00425 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00313 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55856 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63441 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59563 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48996 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65173 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66667 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75762 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70968 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68716 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.77252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60107 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66951 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67868 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69492 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72097 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69863 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61013 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61553 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67691 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68605 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70338 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77218 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73003 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63889 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62414 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68946 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70726 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69547 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7332 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70961 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62967 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68046 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68961 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70744 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73332 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70969 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62979 - } - ] - }, - { - "config": { - "retrieval_model": "bge-en-mistral zero-shot", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-en-mistral", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000", - "timestamp": "2024-07-25T13:05:01Z", - "is_anonymous": false, - "revision": "a489ce09d579aac8d5b5cb4045c34ce8" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68055 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70745 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62604 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62997 - } - ] - } -] \ No newline at end of file