yuhuanowo commited on
Commit
4199e14
·
verified ·
1 Parent(s): 34d0a86

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +42 -3
README.md CHANGED
@@ -1,3 +1,42 @@
1
- ---
2
- license: mit
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ language:
4
+ - zh
5
+ size_categories:
6
+ - 1M<n<10M
7
+ ---
8
+
9
+ # 台灣正體中文維基百科 (zh-tw Wikipedia)
10
+
11
+ 截至 2023 年 5 月,中文維基百科 2,533,212 篇條目的台灣正體文字內容。每篇條目為一列 (row),包含 HTML 以及 Markdown 兩種格式。
12
+
13
+ A nearly-complete collection of 2,533,212 Traditional Chinese (`zh-tw`) Wikipedia pages, gathered between May 1, 2023, and May 7, 2023. Includes both the original HTML format and an auto-converted Markdown version, which has been processed using [vinta/pangu.py](https://github.com/vinta/pangu.py).
14
+
15
+ 於 2023 年 5 月 1 日至 5 月 7 日間取自維基百科 [`action=query`](https://zh.wikipedia.org/w/api.php?action=help&modules=query) & [`prop=extracts`](https://zh.wikipedia.org/w/api.php?action=help&modules=query%2Bextracts) API,內容皆與維基百科網站之台灣正體版本一致,沒有繁簡體混雜的問題。
16
+
17
+ For development usage, checkout [`zetavg/zh-tw-wikipedia-dev`](https://huggingface.co/datasets/zetavg/zh-tw-wikipedia-dev), which is a subset that contains only 1,000 randomly picked items.
18
+
19
+
20
+
21
+ ## 資料集結構
22
+
23
+ ```json
24
+ {
25
+ "text": "1996 年夏季奧林匹克運動會烏克蘭代表團是烏克蘭所派出的第 26 屆夏季奧林匹克運動會代表團。這是烏克蘭獨立後首次參加夏季奧運。"
26
+ }
27
+ ```
28
+
29
+ ## 資料欄位
30
+
31
+ - `text`: (string) 維基百科文本內容
32
+
33
+ ## 如何使用
34
+
35
+ ```python
36
+ from datasets import load_dataset
37
+ dataset = load_dataset("yuhuanstudio/wikipedia-pretrain-zh-tw", split="train")
38
+ ```
39
+
40
+ ## 許可資訊
41
+
42
+ [MIT]