|
--- |
|
license: cc-by-sa-4.0 |
|
language: |
|
- zh |
|
multilinguality: |
|
- monolingual |
|
pretty_name: wiki_tw |
|
size_categories: |
|
- 100M<n<1B |
|
source_datasets: |
|
- wikipedia |
|
dataset_info: |
|
features: |
|
- name: title |
|
dtype: string |
|
- name: article |
|
dtype: string |
|
extra_gated_prompt: "You agree to not attempt to determine the identity of individuals in this dataset" |
|
extra_gated_fields: |
|
Company: text |
|
Country: text |
|
I agree to use this dataset for non-commercial use ONLY: checkbox |
|
--- |
|
解析維基百科打包好的 bz2 檔案，解析出所需內容，利用 [wikitextparser](https://github.com/5j9/wikitextparser) 移除 Wiki 標記。本資料檔是解析自[維基百科 20230701 繁體中文版打包檔](https://dumps.wikimedia.org/zhwiki/20230701/)的內容。 |
|
解析後保留的欄位有兩個：條目名稱（title），條目內容（page article）。 |
|
|
|
原始的打包檔條目內容簡繁混雜，所以有利用 OpenCC 進行簡轉繁處理。 |
|
|
|
* 原始總條目數: 4,296,654 條目。 |
|
* 全部 4,296,249 個條目標題。 |
|
* 全部 4,296,249 個條目內容。 |
|
* 無法自動去標記的條目數: 5,415 |
|
* 有內容的條目數: 4,296,249 |
