DancingPrismPJ commited on
Commit
a85d83b
·
verified ·
1 Parent(s): ae83ad7

All files changed. It works.

Browse files
Files changed (2) hide show
  1. README.md +21 -2
  2. WikipediaHorseDataset.py +6 -6
README.md CHANGED
@@ -9,11 +9,30 @@ pretty_name: wikipedia-horse-dataset
9
  size_categories:
10
  - n<1K
11
  ---
 
12
  #Dataset Card for DancingPrismPJ/wikipedia-horse-dataset
13
 
14
- WikipediaCategory:記事に固有表現ラベルを付与したデータセットです。 固有表現ラベルはllm-book/ner-wikipedia-datasetを基準に、競走馬名を追加して全部で9種類 (人名、法人名、地名、製品名、政治的組織名、施設名、その他の組織名、イベント名、競走馬名)としています。
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
15
 
16
  ##Licence
17
 
18
- Wikipedia日本語版およびDBpedia Japanと同じCC-BY-SA 3.0のライセンスに従います。
19
 
 
9
  size_categories:
10
  - n<1K
11
  ---
12
+
13
  #Dataset Card for DancingPrismPJ/wikipedia-horse-dataset
14
 
15
+ Wikipediaの「[Category:日本調教の競走馬](https://ja.wikipedia.org/wiki/Category:日本調教の競走馬)」内の記事に固有表現ラベルを付与したデータセットです。 固有表現ラベルは書籍「大規模言語モデル入門」でも使用される、ストックマーク株式会社作成の『[Wikipediaを用いた日本語の固有表現抽出データセット](https://github.com/stockmarkteam/ner-wikipedia-dataset)』のラベリングに対応しており、独自に競走馬名を追加して全部で9種類のラベル(人名、法人名、地名、製品名、政治的組織名、施設名、その他の組織名、イベント名、競走馬名)としています。全データ数は600ですが、同一記事から最大3つまで文を束ねています。なお、このデータに負例はありません。 なお、Wikipedia記事収集に使用したDBpediaの仕様として、リンク切れ記事の部分の文字が消失するという事象があるため、一部の文章に変な部分があります。
16
+
17
+ ##ikipediaデータセット内の競走馬の固有表現について
18
+ ```
19
+ "curid": "3003495",
20
+ "text": "オーストラリアの初戦は、6月30日のカラ競馬場の7ハロンメイドン戦だった。",
21
+ "entities": [
22
+ {
23
+ "name": "オーストラリア",
24
+ "span": [
25
+ 0,
26
+ 7
27
+ ],
28
+ "type": "地名"
29
+ },
30
+ ```
31
+ →このオーストラリアは競走馬名「オーストラリア(イギリス産、父ガリレオ、母ウィジャボード)」として扱うのが正しい。海外調教馬だったので当競走馬記事データセットの収集範囲外ではあるが。
32
+ 他"イソノルーブル"、"ディープインパクト"も確認できたが、いずれも固有表現のラベリングはなかった。
33
+ また、マルターズアポジー、ミサワボタン、カーネルジョン(米)の記事からのデータもあったが、馬名は文章に登場しなかった。
34
 
35
  ##Licence
36
 
37
+ Wikipedia日本語版と同じCC-BY-SA 3.0のライセンスに従います。
38
 
WikipediaHorseDataset.py CHANGED
@@ -12,7 +12,7 @@ _HOMEPAGE = "https://ja.dbpedia.org"
12
  _LICENSE = "This work is licensed under CC-BY-SA 3.0"
13
  _URL = "https://huggingface.co/datasets/DancingPrismPJ/Wikipedia-Horse-Dataset/raw/main/wikipedia-horse-dataset.json"
14
 
15
- class WikipediaHorseDatasetConfig(datasets.BuilderConfig):
16
  def __init__(
17
  self,
18
  name: str = "default",
@@ -37,8 +37,8 @@ class WikipediaHorseDatasetConfig(datasets.BuilderConfig):
37
  self.train_ratio = train_ratio
38
  self.validation_ratio = validation_ratio
39
 
40
- class NerWikipediaDataset(datasets.GeneratorBasedBuilder):
41
- BUILDER_CONFIG_CLASS = WikipediaHorseDatasetConfig
42
 
43
  def _info(self) -> datasets.DatasetInfo:
44
  return datasets.DatasetInfo(
@@ -51,7 +51,7 @@ class NerWikipediaDataset(datasets.GeneratorBasedBuilder):
51
  {
52
  "name": datasets.Value("string"),
53
  "span": datasets.Sequence(
54
- datasets.Value("int64"), length=2
55
  ),
56
  "type": datasets.Value("string"),
57
  }
@@ -96,8 +96,8 @@ class NerWikipediaDataset(datasets.GeneratorBasedBuilder):
96
  ]
97
 
98
  def _generate_examples(self, data: list[dict[str, str]]) -> Generator:
99
- for i, d in enumerate(data):
100
- yield i, {
101
  "curid": d["curid"],
102
  "text": d["text"],
103
  "entities": d["entities"],
 
12
  _LICENSE = "This work is licensed under CC-BY-SA 3.0"
13
  _URL = "https://huggingface.co/datasets/DancingPrismPJ/Wikipedia-Horse-Dataset/raw/main/wikipedia-horse-dataset.json"
14
 
15
+ class wikipediaHorseDatasetConfig(datasets.BuilderConfig):
16
  def __init__(
17
  self,
18
  name: str = "default",
 
37
  self.train_ratio = train_ratio
38
  self.validation_ratio = validation_ratio
39
 
40
+ class wikipediaHorseDataset(datasets.GeneratorBasedBuilder):
41
+ BUILDER_CONFIG_CLASS = wikipediaHorseDatasetConfig
42
 
43
  def _info(self) -> datasets.DatasetInfo:
44
  return datasets.DatasetInfo(
 
51
  {
52
  "name": datasets.Value("string"),
53
  "span": datasets.Sequence(
54
+ datasets.Value("int64"), length=3
55
  ),
56
  "type": datasets.Value("string"),
57
  }
 
96
  ]
97
 
98
  def _generate_examples(self, data: list[dict[str, str]]) -> Generator:
99
+ for key, d in enumerate(data):
100
+ yield key, {
101
  "curid": d["curid"],
102
  "text": d["text"],
103
  "entities": d["entities"],