range3 commited on
Commit
c14cb7d
·
1 Parent(s): e64cd0e

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +25 -0
README.md ADDED
@@ -0,0 +1,25 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ task_categories:
3
+ - text-generation
4
+ - fill-mask
5
+ language:
6
+ - ja
7
+ ---
8
+ # range3/wiki40b-ja
9
+
10
+ This dataset consists of three parquet files from the wiki40b dataset with only Japanese data extracted. It is generated by the following python code.
11
+
12
+ このデータセットは、wiki40bデータセットの日本語データのみを抽出した3つのparquetファイルで構成されます。以下のpythonコードによって生成しています。
13
+
14
+ ```py
15
+ import datasets
16
+
17
+ dss = datasets.load_dataset(
18
+ "wiki40b",
19
+ language="ja",
20
+ beam_runner="DirectRunner",
21
+ )
22
+
23
+ for split,ds in dss.items():
24
+ ds.to_parquet(f"wikipedia-ja-20230101/{split}.parquet")
25
+ ```