---
license: apache-2.0
---
## 语种识别



### 数据来源

数据集从网上收集整理如下:


| 数据 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
| :--- |    :---:      |   :---: |    :---:    |     :---:     |
| amazon_reviews_multi | [Multilingual Amazon Reviews Corpus](https://github.com/awslabs/open-data-docs/tree/main/docs/amazon-reviews-ml); [2010.02573](https://arxiv.org/abs/2010.02573) | TRAIN: 1191160, VALID: 29665, TEST: 29685 | 我们提出了多语言亚马逊评论语料库 (MARC)，这是用于多语言文本分类的大规模亚马逊评论集合。 该语料库包含 2015 年至 2019 年间收集的英语、日语、德语、法语、西班牙语和中文评论。 | [amazon_reviews_multi](https://huggingface.co/datasets/amazon_reviews_multi) |
| xnli | [XNLI](https://github.com/facebookresearch/XNLI); [D18-1269.pdf](https://aclanthology.org/D18-1269.pdf) | TRAIN: 7702055, VALID: 49750, TEST: 100129 | 我们希望我们的数据集 XNLI 能够通过提供信息丰富的标准评估任务来促进跨语言句子理解的研究。 | [xnli](https://huggingface.co/datasets/xnli) |
| stsb_multi_mt | [SemEval-2017 Task 1](https://arxiv.org/abs/1708.00055) | 样本个数 | **使用时注意要打乱**。可用语言有：de、en、es、fr、it、nl、pl、pt、ru、zh | [stsb_multi_mt](https://huggingface.co/datasets/stsb_multi_mt) |



### 参考来源
<details>
<summary>参考的数据来源,展开查看</summary>
<pre><code>
https://huggingface.co/datasets/papluca/language-identification
https://huggingface.co/datasets/unklefedor/language-identification

</code></pre>
</details>