Datasets:
Update README.md
Browse files
README.md
CHANGED
@@ -1,3 +1,40 @@
|
|
1 |
-
---
|
2 |
-
license: mit
|
3 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
license: mit
|
3 |
+
language:
|
4 |
+
- zh
|
5 |
+
size_categories:
|
6 |
+
- 10M<n<100M
|
7 |
+
---
|
8 |
+
|
9 |
+
|
10 |
+
# Dataset Card for "yuhuanstudio/passages-pretrain-chinese-zhtw"
|
11 |
+
|
12 |
+
包含**8千萬餘萬**(88328203)個中文段落,不包含任何字母、數字。文字長度大部分介於 50\~200 個字。
|
13 |
+
|
14 |
+
## 資料集來源
|
15 |
+
|
16 |
+
本資料集是基於[CLUE中文預訓練語料集](https://github.com/CLUEbenchmark/CLUE)進行處理、過濾并進行簡繁轉諲而得到的。
|
17 |
+
|
18 |
+
|
19 |
+
## 資料集結構
|
20 |
+
|
21 |
+
```json
|
22 |
+
{
|
23 |
+
"text": "雙十一點燃快遞板塊喜憂參半三季報透露何種訊號經過初步證實,這名喝農藥死亡的男子正是殺害夫妻倆的犯罪嫌疑人。"
|
24 |
+
}
|
25 |
+
```
|
26 |
+
|
27 |
+
## 資料欄位
|
28 |
+
|
29 |
+
- `text`: (string) 文本內容
|
30 |
+
|
31 |
+
## 如何使用
|
32 |
+
|
33 |
+
```python
|
34 |
+
from datasets import load_dataset
|
35 |
+
dataset = load_dataset("yuhuanstudio/passages-pretrain-chinese-zhtw", split="train")
|
36 |
+
```
|
37 |
+
|
38 |
+
## 許可資訊
|
39 |
+
|
40 |
+
[MIT]
|