Miwa-Keita
commited on
Update README.md
Browse files
README.md
CHANGED
@@ -29,12 +29,11 @@ zenz-v2.5-datasetはかな漢字変換タスクに特化した条件付き言語
|
|
29 |
|
30 |
## 形式
|
31 |
|
32 |
-
|
33 |
|
34 |
-
1.
|
35 |
-
2.
|
36 |
-
|
37 |
-
実際のデータでは、区切り文字にUnicode私用領域の文字を利用しています。`<BOC>`は`U+EE02`、`<BOI>`は`U+EE00`、`<BOO>`は`U+EE01`で置き換えています。
|
38 |
|
39 |
## ライセンス
|
40 |
|
@@ -42,11 +41,11 @@ zenz-v2.5-datasetはかな漢字変換タスクに特化した条件付き言語
|
|
42 |
|
43 |
### Wikipedia Subset
|
44 |
|
45 |
-
本データセットのうち、`train_wikipedia.
|
46 |
|
47 |
### llm-jp-corpus-v3 Subset
|
48 |
|
49 |
-
本データセットのうち、`train_llm-jp-corpus-v3.
|
50 |
Common Crawlのライセンスに基づき、[ODC-BY](https://opendatacommons.org/licenses/by/1-0/) および[Common Crawl terms of use](https://commoncrawl.org/terms-of-use) のもとで利用できます。
|
51 |
|
52 |
## 注意点
|
|
|
29 |
|
30 |
## 形式
|
31 |
|
32 |
+
本データセットはJSONL形式になっており、以下の3つのデータを含みます。
|
33 |
|
34 |
+
1. `"input": str`, 入力のカタカナ文字列(記号、数字、空白などが含まれることがあります)
|
35 |
+
2. `"output": str`, 出力の漢字交じり文
|
36 |
+
3. `"left_context": Optional[str]`, 左文脈の漢字交じり文(nullの場合があります)
|
|
|
37 |
|
38 |
## ライセンス
|
39 |
|
|
|
41 |
|
42 |
### Wikipedia Subset
|
43 |
|
44 |
+
本データセットのうち、`train_wikipedia.jsonl`のデータは2024年2月に取得したWikipedia日本語版アーカイブをベースに構築したものであり、[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)ライセンスで利用できます。
|
45 |
|
46 |
### llm-jp-corpus-v3 Subset
|
47 |
|
48 |
+
本データセットのうち、`train_llm-jp-corpus-v3.jsonl`のデータは[llm-jp-corpus-v3](https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v3)のうちCommon Crawlに由来する`ja/ja_cc/level0/CC-MAIN-2023-40.jsonl.gz`をベースに構築したものです。
|
49 |
Common Crawlのライセンスに基づき、[ODC-BY](https://opendatacommons.org/licenses/by/1-0/) および[Common Crawl terms of use](https://commoncrawl.org/terms-of-use) のもとで利用できます。
|
50 |
|
51 |
## 注意点
|