yuhuanowo commited on
Commit
ae2f2cf
·
verified ·
1 Parent(s): 5c32d09

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +58 -0
README.md CHANGED
@@ -5,3 +5,61 @@ language:
5
  size_categories:
6
  - 100M<n<1B
7
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
5
  size_categories:
6
  - 100M<n<1B
7
  ---
8
+
9
+ # Dataset Card for "yuhuanstudio/OpenNewsArchive_pretrain_zhtw"
10
+
11
+ ## 資料集摘要
12
+
13
+ 本資料集基於 OpenNewsArchive 原始數據,經過以下處理步驟:
14
+
15
+
16
+ 簡繁轉換:使用 OpenCC 工具將簡體中文轉換為繁體中文並轉換常用詞彙,確保繁體用語的一致性。
17
+
18
+ 格式化:整理數據結構,使其適合大型語言模型(LLM)的預訓練,確保高效的文本輸入與處理。
19
+
20
+ ## 原始資料來源:
21
+
22
+ 內容說明
23
+
24
+
25
+ 數據來源:OpenDataLab - OpenNewsArchive
26
+
27
+ 語言:繁體中文(基於 OpenCC 處理)
28
+
29
+ 資料格式:適用於 LLM 預訓練的格式,包含標準化文本結構。
30
+
31
+
32
+ ## 使用說明
33
+ 此資料集適用於:
34
+
35
+
36
+ 大型語言模型的預訓練
37
+
38
+ 自然語言處理(NLP)研究
39
+
40
+ 繁體中文語言處理與分析
41
+
42
+ ## 資料集結構
43
+
44
+ ```json
45
+ {
46
+ "text": "報導於: 2023-10-25。 10月24日是秋季最後一個節氣——霜降。衡山縣紫金山森林公園裡秋色正濃,秋風拂過楓樹,把它們“染”成了紅色,大自然的調色盤裡多了不少耀眼的暖色。(廖晶戴瑋)10月24日是秋季最後一個節氣——霜降。(廖晶戴瑋)"
47
+ }
48
+ ```
49
+
50
+ ## 資料欄位
51
+
52
+ - `text`: (string) 文章內容 (含報導時間、內容)
53
+
54
+ ## 如何使用
55
+
56
+ ```python
57
+ from datasets import load_dataset
58
+ dataset = load_dataset("yuhuanstudio/OpenNewsArchive_pretrain_zhtw", split="train")
59
+ ```
60
+
61
+ ## 許可資訊
62
+
63
+ [MIT]
64
+
65
+