Macropodus commited on
Commit
e91e238
·
verified ·
1 Parent(s): fd19a3a

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +47 -32
README.md CHANGED
@@ -1,32 +1,47 @@
1
- # csc_eval_public
2
- ## 一、测评数据说明
3
- ### 1.1 数据清洗
4
- ```
5
- 余-馀: 替换为馀-余
6
- other - 馀: 替换为余
7
- 覆-复: 替换为复-覆
8
- other-覆: # 答疆/回覆/反覆
9
- # 覆审
10
- 他-她:不纠
11
- 她-他:不纠
12
- 人名不纠: 识别人名并丢弃
13
- ```
14
-
15
- ### 1.2 代码
16
- ```
17
- a00_csc_clean_public_wang271k.py
18
- ```
19
-
20
- ### 1.3 数据来源
21
- - [shibing624/CSC](https://huggingface.co/datasets/shibing624/CSC)
22
- ```注意:
23
- test.json dev.json SIGHAN数据集, 包括SIGHAN13 14 15,来自 官方csc.html ,文件大小:339kb,4千条。
24
- train.json 为 Wang271k数据集,包括 Wang271k ,来自 Automatic-Corpus-Generation dimmywang提供 ,文件大小:93MB,27万条。
25
- ```
26
-
27
- ## 二、论文
28
- ### 初始来源
29
- - [https://github.com/wdimmy/Automatic-Corpus-Generation](https://github.com/wdimmy/Automatic-Corpus-Generation)
30
-
31
- ### 论文
32
- - [A Hybrid Approach to Automatic Corpus Generation for Chinese Spelling Checking](https://aclanthology.org/D18-1273)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # csc_eval_public
2
+ ## 一、测评数据说明
3
+ ### 1.1 数据清洗
4
+ ```
5
+ 余-馀: 替换为馀-余
6
+ other - 馀: 替换为余
7
+ 覆-复: 替换为复-覆
8
+ other-覆: # 答疆/回覆/反覆
9
+ # 覆审
10
+ 他-她:不纠
11
+ 她-他:不纠
12
+ 人名不纠: 识别人名并丢弃
13
+ 的得地: 建议丢弃(标注得不准)
14
+
15
+ # # 的 - 地
16
+ # # 的 - 得
17
+ # # 它 - 他
18
+ # # 哪 - 那
19
+
20
+ # # 改-大小改: 余-馀 覆-复 借-藉 功-工 琅-瑯 震-振 百-白 也-叶 经-禁(经不起-禁不起)
21
+ # # 部分不变(人名): 小-晓 一-逸 佳-家 得-地(马哈得) 红-虹 民-明
22
+ # # 匹配上但是不改的: 惟-唯 象-像 查-察 立-利 止-只 建-健 他-它 地-的 定-订 带-戴 力-利 成-城 点-店
23
+ # # 匹配上但是不改的: 作-做 得-的 场-厂 身-生 有-由 种-重 理-里
24
+
25
+
26
+ # # 空白没匹配上: 今-在 年-今 前-目 当-在 目-在 者-是
27
+ # # 外国人名等:其-齐 课-科 博-波
28
+ ```
29
+
30
+ ### 1.2 代码
31
+ ```
32
+ a00_csc_clean_public_wang271k.py
33
+ ```
34
+
35
+ ### 1.3 数据来源
36
+ - [shibing624/CSC](https://huggingface.co/datasets/shibing624/CSC)
37
+ ```注意:
38
+ test.json 和 dev.json 为 SIGHAN数据集, 包括SIGHAN13 14 15,来自 官方csc.html ,文件大小:339kb,4千条。
39
+ train.json 为 Wang271k数据集,包括 Wang271k ,来自 Automatic-Corpus-Generation dimmywang提供 ,文件大小:93MB,27万条。
40
+ ```
41
+
42
+ ## 二、论文
43
+ ### 初始来源
44
+ - [https://github.com/wdimmy/Automatic-Corpus-Generation](https://github.com/wdimmy/Automatic-Corpus-Generation)
45
+
46
+ ### 论文
47
+ - [A Hybrid Approach to Automatic Corpus Generation for Chinese Spelling Checking](https://aclanthology.org/D18-1273)