File size: 1,010 Bytes
01e7443
 
e91b924
 
 
 
 
61e7d21
 
1ace5aa
 
 
 
 
01e7443
0b1ba91
e91b924
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
---
license: cc-by-sa-4.0
language:
- zh
pretty_name: wiki_tw
size_categories:
- 100M<n<1B
source_datasets:
  - wikipedia
extra_gated_prompt: "You agree to not attempt to determine the identity of individuals in this dataset"
extra_gated_fields:
 Company: text
 Country: text
 I agree to use this dataset for non-commercial use ONLY: checkbox
---
解析維基百科打包好的 bz2 檔案,解析出所需內容,利用 [wikitextparser](https://github.com/5j9/wikitextparser) 移除 Wiki 標記。本資料檔是解析自[維基百科 20230701 繁體中文版打包檔](https://dumps.wikimedia.org/zhwiki/20230701/)的內容。
解析後保留的欄位有兩個:條目名稱(title),條目內容(page article)。

原始的打包檔內容簡繁交雜,所以有利用 OpenCC 進行簡轉繁處理。

* 原始總條目數: 4,296,654 條目。
* 全部 4,296,249 個條目標題。
* 全部 4,296,249 個條目內容。
* 無法自動去標記的條目數: 5,415
* 有內容的條目數: 4,296,249