Datasets:

ArXiv:
License:
qgyd2021's picture
update
821e463
|
raw
history blame
1.08 kB
metadata
license: apache-2.0

语种识别

数据来源

数据集从网上收集整理如下:

数据 原始数据/项目地址 样本个数 原始数据描述 替代数据下载地址
amazon_reviews_multi Multilingual Amazon Reviews Corpus; 2010.02573 TRAIN: 1191160, VALID: 29665, TEST: 29685 我们提出了多语言亚马逊评论语料库 (MARC),这是用于多语言文本分类的大规模亚马逊评论集合。 该语料库包含 2015 年至 2019 年间收集的英语、日语、德语、法语、西班牙语和中文评论。 amazon_reviews_multi

参考来源

参考的数据来源,展开查看

https://huggingface.co/datasets/papluca/language-identification
https://huggingface.co/datasets/unklefedor/language-identification