Update README.md
Browse files
README.md
CHANGED
@@ -16,14 +16,9 @@ size_categories:
|
|
16 |
|
17 |
|
18 |
|
19 |
-
# CMB Chinese-Medical-Benchmark 中文医学基准测评
|
20 |
-
![CMB](assets/title.png)
|
21 |
-
<p align="center">
|
22 |
-
🌐 <a href="" target="_blank">Website</a> • <a href="https://github.com/FreedomIntelligence/CMB"> Github地址 </a>
|
23 |
-
|
24 |
## 🌈 更新
|
25 |
|
26 |
-
* **[2023.
|
27 |
|
28 |
|
29 |
|
@@ -31,43 +26,39 @@ size_categories:
|
|
31 |
|
32 |
- 方法一:直接下载使用[zip压缩文件](https://github.com/FreedomIntelligence/CMB/tree/main/data)
|
33 |
- 方法二:使用[Hugging Face datasets](https://huggingface.co/datasets/FreedomIntelligence/CMB)直接加载数据集 示例如下:
|
34 |
-
|
35 |
-
|
36 |
-
|
37 |
-
|
38 |
-
|
39 |
-
|
40 |
-
|
41 |
-
|
42 |
-
|
43 |
-
|
44 |
-
```
|
45 |
|
46 |
|
47 |
|
48 |
## 🥇 排行榜
|
49 |
|
50 |
-
|
51 |
|
52 |
|
53 |
|
54 |
## 🥸 数据集介绍
|
55 |
-
![CMB](assets/CMB.png)
|
56 |
-
![CMB](assets/CMB-qa.png)
|
57 |
### 组成部分
|
58 |
-
- CMB-
|
59 |
-
- 结构: 6大项28小项,详见上图CMB-
|
60 |
- CMB-test: 11200道题目,每一小项400道题目;
|
61 |
- CMB-val: 280道附带详细解析的题目; Few Shot数据集;
|
62 |
- CMB-train: 269359道题目; 模型医疗知识注入;
|
63 |
|
64 |
-
- CME-
|
65 |
-
- 数据:
|
66 |
-
- CMB-exampaper: 测评模型是否通过考试
|
67 |
-
- 数据: 9小项,25套共6571道题目,详见上图CMB-Exam; [套题目录地址](https://github.com/FreedomIntelligence/CMB/blob/main/exam-catalog.md);
|
68 |
|
69 |
|
70 |
-
### CMB-
|
71 |
```json
|
72 |
{
|
73 |
"exam_type": "医师考试",
|
@@ -90,7 +81,7 @@ qa_datasets = load_dataset('FreedomIntelligence/CMB','qa')
|
|
90 |
- exam_subject: 具体科室或细分学科分类;
|
91 |
- question_type: 只有"单项选择题"和"多项选择题";
|
92 |
|
93 |
-
### CMB-
|
94 |
```json
|
95 |
{
|
96 |
"id": "0",
|
@@ -119,13 +110,10 @@ qa_datasets = load_dataset('FreedomIntelligence/CMB','qa')
|
|
119 |
|
120 |
|
121 |
|
122 |
-
|
123 |
## ℹ️ 如何进行评测和提交详见[Github官网](https://github.com/FreedomIntelligence/CMB)
|
124 |
|
125 |
## To do List
|
126 |
-
1.
|
127 |
-
2. 发布CMB-qa测评结果。
|
128 |
-
3. 发布论文报告。
|
129 |
|
130 |
## 😘 引用
|
131 |
|
|
|
16 |
|
17 |
|
18 |
|
|
|
|
|
|
|
|
|
|
|
19 |
## 🌈 更新
|
20 |
|
21 |
+
* **[2023.08.01]** 🎉🎉🎉 CMB公开!感谢支持~🎉🎉🎉
|
22 |
|
23 |
|
24 |
|
|
|
26 |
|
27 |
- 方法一:直接下载使用[zip压缩文件](https://github.com/FreedomIntelligence/CMB/tree/main/data)
|
28 |
- 方法二:使用[Hugging Face datasets](https://huggingface.co/datasets/FreedomIntelligence/CMB)直接加载数据集 示例如下:
|
29 |
+
```python
|
30 |
+
from datasets import load_dataset
|
31 |
+
|
32 |
+
# main datasets (multiple choice)
|
33 |
+
main_datasets = load_dataset('FreedomIntelligence/CMB','main')
|
34 |
+
# exam paper datasets (multiple choice)
|
35 |
+
exam_datasets = load_dataset('FreedomIntelligence/CMB','exampaper')
|
36 |
+
# QA datasets
|
37 |
+
qa_datasets = load_dataset('FreedomIntelligence/CMB','qa')
|
38 |
+
```
|
|
|
39 |
|
40 |
|
41 |
|
42 |
## 🥇 排行榜
|
43 |
|
44 |
+
我们评估了模型的zero-shot准确率,请访问我们[官方排行榜](https://cmedbenchmark.llmzoo.com/static/leaderboard.html)了解详细结果。
|
45 |
|
46 |
|
47 |
|
48 |
## 🥸 数据集介绍
|
49 |
+
![CMB](assets/CMB-final.png)
|
|
|
50 |
### 组成部分
|
51 |
+
- CMB-Exam: 全方位多层次测评模型医疗知识;
|
52 |
+
- 结构: 6大项28小项,详见上图CMB-Exam, [目录地址](catalog.md);
|
53 |
- CMB-test: 11200道题目,每一小项400道题目;
|
54 |
- CMB-val: 280道附带详细解析的题目; Few Shot数据集;
|
55 |
- CMB-train: 269359道题目; 模型医疗知识注入;
|
56 |
|
57 |
+
- CME-Clin: 测评复杂临床问诊能力
|
58 |
+
- 数据: 74例复杂病例问诊; 详见上图示例;
|
|
|
|
|
59 |
|
60 |
|
61 |
+
### CMB-Exam Item
|
62 |
```json
|
63 |
{
|
64 |
"exam_type": "医师考试",
|
|
|
81 |
- exam_subject: 具体科室或细分学科分类;
|
82 |
- question_type: 只有"单项选择题"和"多项选择题";
|
83 |
|
84 |
+
### CMB-Clin Item
|
85 |
```json
|
86 |
{
|
87 |
"id": "0",
|
|
|
110 |
|
111 |
|
112 |
|
|
|
113 |
## ℹ️ 如何进行评测和提交详见[Github官网](https://github.com/FreedomIntelligence/CMB)
|
114 |
|
115 |
## To do List
|
116 |
+
1. 发布论文报告。
|
|
|
|
|
117 |
|
118 |
## 😘 引用
|
119 |
|