Miwa-Keita commited on
Commit
7d9c9ea
·
verified ·
1 Parent(s): a4beb97

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +6 -7
README.md CHANGED
@@ -29,12 +29,11 @@ zenz-v2.5-datasetはかな漢字変換タスクに特化した条件付き言語
29
 
30
  ## 形式
31
 
32
- 本データセットは改行区切りになっており、以下の形式のいずれかのデータを含みます。
33
 
34
- 1. `<BOC>左文脈<BOI>入力(カタカナ列)<BOO>出力(漢字交じり文)`
35
- 2. `<BOI>入力(カタカナ列)<BOO>出力(漢字交じり文)`
36
-
37
- 実際のデータでは、区切り文字にUnicode私用領域の文字を利用しています。`<BOC>`は`U+EE02`、`<BOI>`は`U+EE00`、`<BOO>`は`U+EE01`で置き換えています。
38
 
39
  ## ライセンス
40
 
@@ -42,11 +41,11 @@ zenz-v2.5-datasetはかな漢字変換タスクに特化した条件付き言語
42
 
43
  ### Wikipedia Subset
44
 
45
- 本データセットのうち、`train_wikipedia.txt`のデータは2024年2月に取得したWikipedia日本語版アーカイブをベースに構築したものであり、[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)ライセンスで利用できます。
46
 
47
  ### llm-jp-corpus-v3 Subset
48
 
49
- 本データセットのうち、`train_llm-jp-corpus-v3.txt`のデータは[llm-jp-corpus-v3](https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v3)のうちCommon Crawlに由来する`ja/ja_cc/level0/CC-MAIN-2023-40.jsonl.gz`をベースに構築したものです。
50
  Common Crawlのライセンスに基づき、[ODC-BY](https://opendatacommons.org/licenses/by/1-0/) および[Common Crawl terms of use](https://commoncrawl.org/terms-of-use) のもとで利用できます。
51
 
52
  ## 注意点
 
29
 
30
  ## 形式
31
 
32
+ 本データセットはJSONL形式になっており、以下の3つのデータを含みます。
33
 
34
+ 1. `"input": str`, 入力のカタカナ文字列(記号、数字、空白などが含まれることがあります)
35
+ 2. `"output": str`, 出力の漢字交じり文
36
+ 3. `"left_context": Optional[str]`, 左文脈の漢字交じり文(nullの場合があります)
 
37
 
38
  ## ライセンス
39
 
 
41
 
42
  ### Wikipedia Subset
43
 
44
+ 本データセットのうち、`train_wikipedia.jsonl`のデータは2024年2月に取得したWikipedia日本語版アーカイブをベースに構築したものであり、[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)ライセンスで利用できます。
45
 
46
  ### llm-jp-corpus-v3 Subset
47
 
48
+ 本データセットのうち、`train_llm-jp-corpus-v3.jsonl`のデータは[llm-jp-corpus-v3](https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v3)のうちCommon Crawlに由来する`ja/ja_cc/level0/CC-MAIN-2023-40.jsonl.gz`をベースに構築したものです。
49
  Common Crawlのライセンスに基づき、[ODC-BY](https://opendatacommons.org/licenses/by/1-0/) および[Common Crawl terms of use](https://commoncrawl.org/terms-of-use) のもとで利用できます。
50
 
51
  ## 注意点