Datasets:

jslin09
/

wikipedia_tw

Modalities:

Formats:

Languages:

Size:

Libraries:

License:

Dataset card Viewer Files Files and versions Community

jslin09 commited on Oct 7

Commit

4b1bf3b

•

1 Parent(s): 1156671

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -23,7 +23,7 @@ extra_gated_fields:
 ---
 要搞自己的大型語言模型，最基本的基本，就是需要一大堆文字資料，從 Common Crawl 上頭抓回來慢慢清洗是一條路，清洗維基百科網站的週期性下載檔也是一個方法。本資料集是解析自[維基百科於 20240420 發布的繁體中文版打包檔](https://dumps.wikimedia.org/zhwiki/20240420/) bz2 檔案的內容，在解析出所需內容後，利用 [wikitextparser](https://wikitextparser.readthedocs.io/en/latest/) 移除 Wiki 標記。解析後保留的欄位有兩個：條目名稱（title），條目內容（page article）。
-原始的打包檔條目內容簡繁混雜，所以有利用 OpenCC 進行簡轉繁處理。
 * 原始總條目數: 4,451,426 條目。
 * 全部 4,451,426 個條目標題。

 ---
 要搞自己的大型語言模型，最基本的基本，就是需要一大堆文字資料，從 Common Crawl 上頭抓回來慢慢清洗是一條路，清洗維基百科網站的週期性下載檔也是一個方法。本資料集是解析自[維基百科於 20240420 發布的繁體中文版打包檔](https://dumps.wikimedia.org/zhwiki/20240420/) bz2 檔案的內容，在解析出所需內容後，利用 [wikitextparser](https://wikitextparser.readthedocs.io/en/latest/) 移除 Wiki 標記。解析後保留的欄位有兩個：條目名稱（title），條目內容（page article）。
+原始的打包檔條目內容簡繁混雜，所以有利用 [OpenCC](https://github.com/BYVoid/OpenCC) 進行簡轉繁處理。
 * 原始總條目數: 4,451,426 條目。
 * 全部 4,451,426 個條目標題。