|
--- |
|
license: mit |
|
language: |
|
- zh |
|
size_categories: |
|
- 10M<n<100M |
|
--- |
|
|
|
|
|
# Dataset Card for "yuhuanstudio/passages-pretrain-chinese-zhtw" |
|
|
|
包含**8千萬餘萬**（88328203）個中文段落，不包含任何字母、數字。文字長度大部分介於 50\~200 個字。 |
|
|
|
## 資料集來源 |
|
|
|
本資料集是基於[CLUE中文預訓練語料集](https://github.com/CLUEbenchmark/CLUE)進行處理、過濾并進行簡繁轉諲而得到的。 |
|
|
|
|
|
## 資料集結構 |
|
|
|
```json |
|
{ |
|
"text": "雙十一點燃快遞板塊喜憂參半三季報透露何種訊號經過初步證實，這名喝農藥死亡的男子正是殺害夫妻倆的犯罪嫌疑人。" |
|
} |
|
``` |
|
|
|
## 資料欄位 |
|
|
|
- `text`: (string) 文本內容 |
|
|
|
## 如何使用 |
|
|
|
```python |
|
from datasets import load_dataset |
|
dataset = load_dataset("yuhuanstudio/passages-pretrain-chinese-zhtw", split="train") |
|
``` |
|
|
|
## 許可資訊 |
|
|
|
[MIT] |
