Update README.md
Browse files
README.md
CHANGED
@@ -1,3 +1,63 @@
|
|
1 |
-
---
|
2 |
-
license: apache-2.0
|
3 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
license: apache-2.0
|
3 |
+
language:
|
4 |
+
- zh
|
5 |
+
size_categories:
|
6 |
+
- 10K<n<100K
|
7 |
+
---
|
8 |
+
|
9 |
+
# Dataset Card for "yuhuanstudio/twdict_pretrain"
|
10 |
+
|
11 |
+
## 資料集摘要
|
12 |
+
|
13 |
+
本資料集將「成語典」與「重編字典」的內容合併為單一資料集,提供繁體中文的詞彙、成語與其解釋、用例等資訊。此資料集適用於大型語言模型(LLM)預訓練以及自然語言處理(NLP)各類應用,如關鍵字抽取、問答系統、語義分析等。
|
14 |
+
|
15 |
+
原始資料來源:
|
16 |
+
- [《重編國語辭典修訂本》](https://language.moe.gov.tw/001/Upload/Files/site_content/M0001/respub/dict_reviseddict_download.html)
|
17 |
+
- [《成語典》 ](https://language.moe.gov.tw/001/Upload/Files/site_content/M0001/respub/dict_idiomsdict_download.html)
|
18 |
+
|
19 |
+
## 內容說明
|
20 |
+
• 數據來源:
|
21 |
+
– 「成語典」:收錄常見與罕見成語,含釋義、典故、例句等相關資訊
|
22 |
+
– 「重編字典」:收錄繁體中文詞彙與解釋,含詞性、詞義、引文等
|
23 |
+
|
24 |
+
• 語言:繁體中文
|
25 |
+
|
26 |
+
• 資料格式:
|
27 |
+
– JSON 格式,結構化每個詞條或成語的內容
|
28 |
+
– 便於 LLM 預訓練和 NLP 分析
|
29 |
+
|
30 |
+
• 資料規模:
|
31 |
+
– 含數萬條繁體中文詞彙與成語
|
32 |
+
– 豐富的用法示例、解釋及歷史典故
|
33 |
+
|
34 |
+
## 資料集結構
|
35 |
+
|
36 |
+
```json
|
37 |
+
{
|
38 |
+
"text": "字詞名:叭\n字數:1\n字詞號:00003\n部首字:口\n總筆畫數:5\n部首外筆畫數:2\n多音排序:0\n注音一式:ㄅㄚ\n漢語拼音:bā\n釋義:[名]\n參見「喇叭」條。\n[擬]\n形容汽車、機車的喇叭聲。如:「忽聽叭的一聲,嚇了我一跳!」或疊字作「叭叭」。"
|
39 |
+
}
|
40 |
+
```
|
41 |
+
|
42 |
+
## 使用說明
|
43 |
+
|
44 |
+
此資料集適用於:
|
45 |
+
|
46 |
+
• 大型語言模型(LLM)預訓練
|
47 |
+
|
48 |
+
• 自然語言處理(NLP)研究與應用
|
49 |
+
|
50 |
+
• 詞彙分析、語義分析系統的開發
|
51 |
+
|
52 |
+
• 詞典擴充、關鍵字抽取、智慧搜尋等應用
|
53 |
+
|
54 |
+
## 如何使用
|
55 |
+
|
56 |
+
```python
|
57 |
+
from datasets import load_dataset
|
58 |
+
dataset = load_dataset("yuhuanstudio/twdict_pretrain", split="train")
|
59 |
+
```
|
60 |
+
|
61 |
+
## 許可資訊
|
62 |
+
|
63 |
+
[apache-2.0]
|