Update README.md
Browse files
README.md
CHANGED
@@ -1,32 +1,47 @@
|
|
1 |
-
# csc_eval_public
|
2 |
-
## 一、测评数据说明
|
3 |
-
### 1.1 数据清洗
|
4 |
-
```
|
5 |
-
余-馀: 替换为馀-余
|
6 |
-
other - 馀: 替换为余
|
7 |
-
覆-复: 替换为复-覆
|
8 |
-
other-覆: # 答疆/回覆/反覆
|
9 |
-
# 覆审
|
10 |
-
他-她:不纠
|
11 |
-
她-他:不纠
|
12 |
-
人名不纠: 识别人名并丢弃
|
13 |
-
|
14 |
-
|
15 |
-
|
16 |
-
|
17 |
-
|
18 |
-
|
19 |
-
|
20 |
-
|
21 |
-
|
22 |
-
|
23 |
-
|
24 |
-
|
25 |
-
|
26 |
-
|
27 |
-
|
28 |
-
|
29 |
-
|
30 |
-
|
31 |
-
|
32 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
# csc_eval_public
|
2 |
+
## 一、测评数据说明
|
3 |
+
### 1.1 数据清洗
|
4 |
+
```
|
5 |
+
余-馀: 替换为馀-余
|
6 |
+
other - 馀: 替换为余
|
7 |
+
覆-复: 替换为复-覆
|
8 |
+
other-覆: # 答疆/回覆/反覆
|
9 |
+
# 覆审
|
10 |
+
他-她:不纠
|
11 |
+
她-他:不纠
|
12 |
+
人名不纠: 识别人名并丢弃
|
13 |
+
的得地: 建议丢弃(标注得不准)
|
14 |
+
|
15 |
+
# # 的 - 地
|
16 |
+
# # 的 - 得
|
17 |
+
# # 它 - 他
|
18 |
+
# # 哪 - 那
|
19 |
+
|
20 |
+
# # 改-大小改: 余-馀 覆-复 借-藉 功-工 琅-瑯 震-振 百-白 也-叶 经-禁(经不起-禁不起)
|
21 |
+
# # 部分不变(人名): 小-晓 一-逸 佳-家 得-地(马哈得) 红-虹 民-明
|
22 |
+
# # 匹配上但是不改的: 惟-唯 象-像 查-察 立-利 止-只 建-健 他-它 地-的 定-订 带-戴 力-利 成-城 点-店
|
23 |
+
# # 匹配上但是不改的: 作-做 得-的 场-厂 身-生 有-由 种-重 理-里
|
24 |
+
|
25 |
+
|
26 |
+
# # 空白没匹配上: 今-在 年-今 前-目 当-在 目-在 者-是
|
27 |
+
# # 外国人名等:其-齐 课-科 博-波
|
28 |
+
```
|
29 |
+
|
30 |
+
### 1.2 代码
|
31 |
+
```
|
32 |
+
a00_csc_clean_public_wang271k.py
|
33 |
+
```
|
34 |
+
|
35 |
+
### 1.3 数据来源
|
36 |
+
- [shibing624/CSC](https://huggingface.co/datasets/shibing624/CSC)
|
37 |
+
```注意:
|
38 |
+
test.json 和 dev.json 为 SIGHAN数据集, 包括SIGHAN13 14 15,来自 官方csc.html ,文件大小:339kb,4千条。
|
39 |
+
train.json 为 Wang271k数据集,包括 Wang271k ,来自 Automatic-Corpus-Generation dimmywang提供 ,文件大小:93MB,27万条。
|
40 |
+
```
|
41 |
+
|
42 |
+
## 二、论文
|
43 |
+
### 初始来源
|
44 |
+
- [https://github.com/wdimmy/Automatic-Corpus-Generation](https://github.com/wdimmy/Automatic-Corpus-Generation)
|
45 |
+
|
46 |
+
### 论文
|
47 |
+
- [A Hybrid Approach to Automatic Corpus Generation for Chinese Spelling Checking](https://aclanthology.org/D18-1273)
|