File size: 2,211 Bytes
ba9c367 81ac731 cdcdfa5 b5824ea cdcdfa5 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 |
---
dataset_info:
features:
- name: page
dtype: string
- name: title
dtype: string
- name: pre_str
dtype: string
- name: post_str
dtype: string
- name: pre_bart_likelihood
dtype: float64
- name: post_bart_likelihood
dtype: float64
- name: category
dtype: string
- name: text_head
dtype: string
- name: text_tail
dtype: string
splits:
- name: train
num_bytes: 79765386
num_examples: 291954
- name: test
num_bytes: 584213
num_examples: 2100
download_size: 46334306
dataset_size: 80349599
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: test
path: data/test-*
license: cc-by-sa-3.0
language:
- ja
---
# 日本語ウィキペディア入力誤りデータセット (漢字誤変換抽出版)
## 概要
このデータセットは，京都大学 言語メディア研究室によって公開されているデータセットをHuggingFaceで使用できるよう変換したものです．
[日本語Wikipedia入力誤りデータセット (v2) - 京都大学 言語メディア研究室](https://nlp.ist.i.kyoto-u.ac.jp/?%E6%97%A5%E6%9C%AC%E8%AA%9EWikipedia%E5%85%A5%E5%8A%9B%E8%AA%A4%E3%82%8A%E3%83%87%E3%83%BC%E3%82%BF%E3%82%BB%E3%83%83%E3%83%88)
このデータセットでは，[JunSotohigashi/JapaneseWikipediaTypoDataset](https://huggingface.co/datasets/JunSotohigashi/JapaneseWikipediaTypoDataset)から，漢字誤変換のみを抽出しています．
誤りの種類が`kanji-conversion_a`と`kanji-conversion_b`の事例のみをフィルタリングし，誤り部分の前と後ろに文を分割しました．
これにより，`pre_text`は`text_head + pre_str + text_tail`と等価になります．
`post_text`については，diffsに複数のデータが存在する場合にはそれをすべて適用したあとの文字列であるため，`post_text`と`text_head + post_str + text_tail`が同じになるとは限りません．
生成に使用したソースコードは[ここ](https://github.com/JunSotohigashi/misusing-corpus-jp/tree/v2.2)から参照できます．
## ライセンス
配布元に従い，CC-BY-SA 3.0とします．
|