metadata

dataset_info:
  features:
    - name: text
      dtype: string
    - name: noise_spans
      sequence:
        sequence: int64
    - name: id
      dtype: string
    - name: date
      dtype: timestamp[s]
    - name: url
      dtype: string
    - name: dump
      dtype: string
    - name: original_text
      dtype: string
  splits:
    - name: train
      num_bytes: 709459815.2446959
      num_examples: 314376
    - name: test
      num_bytes: 67701715.32604548
      num_examples: 30000
  download_size: 481715817
  dataset_size: 777161530.5707414
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: test
        path: data/test-*
license: odc-by
language:
  - ja

fineweb-2-japanese-noise-spans

このデータセットは、FineWeb2 の日本語データから、Web特有のノイズ箇所を判定したデータセットです。trainに約30万件、testに3万件のデータが含まれます。

ノイズ判定はLLMが行っており、cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japaneseを利用して作成しました。

ノイズ判定プロンプト

入力されたWebスクレイピング文から、タイトルと本文のみを抽出するために、それ以外のノイズ文章箇所を判定します。入力文はタイトル・本文以外に、ナビゲーション・ヘッダ・フッタ・広告・URL・記事作成日時・システムメッセージ・「これは90日間記事に更新がない場合表示されます」など、余計なノイズと判定される文章が含まれることがあります。ノイズ判定は、一行ごとに行うこと。注意深く文章を読んで、ノイズかどうかを吟味しなさい。

ノイズの該当箇所は、以下の厳密な JSON フォーマットで出力する。出力はJSONのみを出力し、他の余計なものを一切出力してはならない。ノイズがない場合は、空の `{}` のみを出力せよ。ノイズテキストは、省略したりせず、一語一句変えず、元の文章のまま出力すること。

 ```json
{
  "noises": [text1, text2, ...]
}

ライセンス

大元の FineWeb2 と同様の ODC-By とします。