llmjp-kaken / README.md
hpprc's picture
Update README.md
53ab0c9 verified
metadata
dataset_info:
  features:
    - name: title
      dtype: string
    - name: text
      dtype: string
    - name: id
      dtype: string
    - name: url
      dtype: string
  splits:
    - name: train
      num_bytes: 5115429445
      num_examples: 1114379
  download_size: 1899267119
  dataset_size: 5115429445
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
license: cc-by-4.0
language:
  - ja

llm-jp-corpus-v3のkakenサブセットをHFフォーマットに変換し、各データに付与されたURLから元記事のタイトルを取得可能なものについては取得して付与したデータセットです。

ライセンスは元ページに従いCC-BY 4.0とします。