| # csc_eval_public | |
| ## 一、测评数据说明 | |
| ### 1.1 数据清洗 | |
| ``` | |
| 余-馀: 替换为馀-余 | |
| other - 馀: 替换为余 | |
| 覆-复: 替换为复-覆 | |
| other-覆: # 答疆/回覆/反覆 | |
| # 覆审 | |
| 他-她:不纠 | |
| 她-他:不纠 | |
| 人名不纠: 识别人名并丢弃 | |
| 的得地: 建议丢弃(标注得不准) | |
| # # 的 - 地 | |
| # # 的 - 得 | |
| # # 它 - 他 | |
| # # 哪 - 那 | |
| # # 改-大小改: 余-馀 覆-复 借-藉 功-工 琅-瑯 震-振 百-白 也-叶 经-禁(经不起-禁不起) | |
| # # 部分不变(人名)： 小-晓 一-逸 佳-家 得-地(马哈得) 红-虹 民-明 | |
| # # 匹配上但是不改的： 惟-唯 象-像 查-察 立-利 止-只 建-健 他-它 地-的 定-订 带-戴 力-利 成-城 点-店 | |
| # # 匹配上但是不改的： 作-做 得-的 场-厂 身-生 有-由 种-重 理-里 | |
| # # 空白没匹配上： 今-在 年-今 前-目 当-在 目-在 者-是 | |
| # # 外国人名等：其-齐 课-科 博-波 | |
| ``` | |
| ### 1.2 代码 | |
| ``` | |
| a00_csc_clean_public_wang271k.py | |
| ``` | |
| ### 1.3 数据来源 | |
| - [shibing624/CSC](https://huggingface.co/datasets/shibing624/CSC) | |
| ```注意: | |
| test.json 和 dev.json 为 SIGHAN数据集， 包括SIGHAN13 14 15，来自 官方csc.html ，文件大小：339kb，4千条。 | |
| train.json 为 Wang271k数据集，包括 Wang271k ，来自 Automatic-Corpus-Generation dimmywang提供 ，文件大小：93MB，27万条。 | |
| ``` | |
| ## 二、论文 | |
| ### 初始来源 | |
| - [https://github.com/wdimmy/Automatic-Corpus-Generation](https://github.com/wdimmy/Automatic-Corpus-Generation) | |
| ### 论文 | |
| - [A Hybrid Approach to Automatic Corpus Generation for Chinese Spelling Checking](https://aclanthology.org/D18-1273) | |