README.md

metadata

dataset_info:
  - config_name: default
    features:
      - name: page
        dtype: string
      - name: title
        dtype: string
      - name: pre_str
        dtype: string
      - name: post_str
        dtype: string
      - name: pre_bart_likelihood
        dtype: float64
      - name: post_bart_likelihood
        dtype: float64
      - name: category
        dtype: string
      - name: text_head
        dtype: string
      - name: text_tail
        dtype: string
    splits:
      - name: train
        num_bytes: 79765386
        num_examples: 291954
      - name: test
        num_bytes: 584213
        num_examples: 2100
    download_size: 46334306
    dataset_size: 80349599
  - config_name: labeled
    features:
      - name: text_head
        dtype: string
      - name: pre_str
        dtype: string
      - name: post_str
        dtype: string
      - name: text_tail
        dtype: string
      - name: error_type
        dtype: string
      - name: category
        dtype: string
      - name: page
        dtype: int64
      - name: title
        dtype: string
      - name: pre_bart_likelihood
        dtype: float64
      - name: post_bart_likelihood
        dtype: float64
      - name: diff_bart_likelihood
        dtype: float64
    splits:
      - name: train
        num_bytes: 385103
        num_examples: 1300
    download_size: 248376
    dataset_size: 385103
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: test
        path: data/test-*
  - config_name: labeled
    data_files:
      - split: train
        path: labeled/train-*
license: cc-by-sa-3.0
language:
  - ja

日本語ウィキペディア入力誤りデータセット (漢字誤変換抽出版)

概要

このデータセットは，京都大学 言語メディア研究室によって公開されているデータセットをHuggingFaceで使用できるよう変換したものです．
日本語Wikipedia入力誤りデータセット (v2) - 京都大学 言語メディア研究室

このデータセットでは，JunSotohigashi/JapaneseWikipediaTypoDatasetから，漢字誤変換のみを抽出しています．
誤りの種類がkanji-conversion_aとkanji-conversion_bの事例のみをフィルタリングし，誤り部分の前と後ろに文を分割しました．
これにより，pre_textはtext_head + pre_str + text_tailと等価になります．
post_textについては，diffsに複数のデータが存在する場合にはそれをすべて適用したあとの文字列であるため，post_textとtext_head + post_str + text_tailが同じになるとは限りません．

生成に使用したソースコードはここから参照できます．

labeledサブセット

trainデータの一部に対して，人手により誤りタイプのタグをつけました．

• trainデータをseed=42でシャッフル
• 先頭から1300件抽出
• error_type列に，勘違いに起因するタイポ(CognitiveError)と，単純なキーの押し間違い(KeystrokeError)の分類結果を保存

ライセンス

配布元に従い，CC-BY-SA 3.0とします．