All files changed. It works.
Browse files- README.md +21 -2
- WikipediaHorseDataset.py +6 -6
README.md
CHANGED
@@ -9,11 +9,30 @@ pretty_name: wikipedia-horse-dataset
|
|
9 |
size_categories:
|
10 |
- n<1K
|
11 |
---
|
|
|
12 |
#Dataset Card for DancingPrismPJ/wikipedia-horse-dataset
|
13 |
|
14 |
-
Wikipedia
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
15 |
|
16 |
##Licence
|
17 |
|
18 |
-
Wikipedia
|
19 |
|
|
|
9 |
size_categories:
|
10 |
- n<1K
|
11 |
---
|
12 |
+
|
13 |
#Dataset Card for DancingPrismPJ/wikipedia-horse-dataset
|
14 |
|
15 |
+
Wikipediaの「[Category:日本調教の競走馬](https://ja.wikipedia.org/wiki/Category:日本調教の競走馬)」内の記事に固有表現ラベルを付与したデータセットです。 固有表現ラベルは書籍「大規模言語モデル入門」でも使用される、ストックマーク株式会社作成の『[Wikipediaを用いた日本語の固有表現抽出データセット](https://github.com/stockmarkteam/ner-wikipedia-dataset)』のラベリングに対応しており、独自に競走馬名を追加して全部で9種類のラベル(人名、法人名、地名、製品名、政治的組織名、施設名、その他の組織名、イベント名、競走馬名)としています。全データ数は600ですが、同一記事から最大3つまで文を束ねています。なお、このデータに負例はありません。 なお、Wikipedia記事収集に使用したDBpediaの仕様として、リンク切れ記事の部分の文字が消失するという事象があるため、一部の文章に変な部分があります。
|
16 |
+
|
17 |
+
##ikipediaデータセット内の競走馬の固有表現について
|
18 |
+
```
|
19 |
+
"curid": "3003495",
|
20 |
+
"text": "オーストラリアの初戦は、6月30日のカラ競馬場の7ハロンメイドン戦だった。",
|
21 |
+
"entities": [
|
22 |
+
{
|
23 |
+
"name": "オーストラリア",
|
24 |
+
"span": [
|
25 |
+
0,
|
26 |
+
7
|
27 |
+
],
|
28 |
+
"type": "地名"
|
29 |
+
},
|
30 |
+
```
|
31 |
+
→このオーストラリアは競走馬名「オーストラリア(イギリス産、父ガリレオ、母ウィジャボード)」として扱うのが正しい。海外調教馬だったので当競走馬記事データセットの収集範囲外ではあるが。
|
32 |
+
他"イソノルーブル"、"ディープインパクト"も確認できたが、いずれも固有表現のラベリングはなかった。
|
33 |
+
また、マルターズアポジー、ミサワボタン、カーネルジョン(米)の記事からのデータもあったが、馬名は文章に登場しなかった。
|
34 |
|
35 |
##Licence
|
36 |
|
37 |
+
Wikipedia日本語版と同じCC-BY-SA 3.0のライセンスに従います。
|
38 |
|
WikipediaHorseDataset.py
CHANGED
@@ -12,7 +12,7 @@ _HOMEPAGE = "https://ja.dbpedia.org"
|
|
12 |
_LICENSE = "This work is licensed under CC-BY-SA 3.0"
|
13 |
_URL = "https://huggingface.co/datasets/DancingPrismPJ/Wikipedia-Horse-Dataset/raw/main/wikipedia-horse-dataset.json"
|
14 |
|
15 |
-
class
|
16 |
def __init__(
|
17 |
self,
|
18 |
name: str = "default",
|
@@ -37,8 +37,8 @@ class WikipediaHorseDatasetConfig(datasets.BuilderConfig):
|
|
37 |
self.train_ratio = train_ratio
|
38 |
self.validation_ratio = validation_ratio
|
39 |
|
40 |
-
class
|
41 |
-
BUILDER_CONFIG_CLASS =
|
42 |
|
43 |
def _info(self) -> datasets.DatasetInfo:
|
44 |
return datasets.DatasetInfo(
|
@@ -51,7 +51,7 @@ class NerWikipediaDataset(datasets.GeneratorBasedBuilder):
|
|
51 |
{
|
52 |
"name": datasets.Value("string"),
|
53 |
"span": datasets.Sequence(
|
54 |
-
datasets.Value("int64"), length=
|
55 |
),
|
56 |
"type": datasets.Value("string"),
|
57 |
}
|
@@ -96,8 +96,8 @@ class NerWikipediaDataset(datasets.GeneratorBasedBuilder):
|
|
96 |
]
|
97 |
|
98 |
def _generate_examples(self, data: list[dict[str, str]]) -> Generator:
|
99 |
-
for
|
100 |
-
yield
|
101 |
"curid": d["curid"],
|
102 |
"text": d["text"],
|
103 |
"entities": d["entities"],
|
|
|
12 |
_LICENSE = "This work is licensed under CC-BY-SA 3.0"
|
13 |
_URL = "https://huggingface.co/datasets/DancingPrismPJ/Wikipedia-Horse-Dataset/raw/main/wikipedia-horse-dataset.json"
|
14 |
|
15 |
+
class wikipediaHorseDatasetConfig(datasets.BuilderConfig):
|
16 |
def __init__(
|
17 |
self,
|
18 |
name: str = "default",
|
|
|
37 |
self.train_ratio = train_ratio
|
38 |
self.validation_ratio = validation_ratio
|
39 |
|
40 |
+
class wikipediaHorseDataset(datasets.GeneratorBasedBuilder):
|
41 |
+
BUILDER_CONFIG_CLASS = wikipediaHorseDatasetConfig
|
42 |
|
43 |
def _info(self) -> datasets.DatasetInfo:
|
44 |
return datasets.DatasetInfo(
|
|
|
51 |
{
|
52 |
"name": datasets.Value("string"),
|
53 |
"span": datasets.Sequence(
|
54 |
+
datasets.Value("int64"), length=3
|
55 |
),
|
56 |
"type": datasets.Value("string"),
|
57 |
}
|
|
|
96 |
]
|
97 |
|
98 |
def _generate_examples(self, data: list[dict[str, str]]) -> Generator:
|
99 |
+
for key, d in enumerate(data):
|
100 |
+
yield key, {
|
101 |
"curid": d["curid"],
|
102 |
"text": d["text"],
|
103 |
"entities": d["entities"],
|