File size: 3,510 Bytes
1665640 94eb75f 1665640 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 |
import json
from typing import Any, Dict, List, Tuple
import datasets
logger = datasets.logging.get_logger(__name__)
_DESCRIPTION = (
"書籍『大規模言語モデル入門』で使用する、「AI王」コンペティションのQAデータセットです。"
"GitHub リポジトリ cl-tohoku/quiz-datasets で公開されているデータセットを利用しています。"
)
_HOMEPAGE = "https://sites.google.com/view/project-aio/dataset/"
_LICENSE = (
"本データセットに含まれる一部のクイズ問題の著作権は abc/EQIDEN 実行委員会に帰属するものであり、"
"これらのクイズ問題は本書における使用許諾を得ているものです。"
"本データセットに含まれる一部のクイズ問題は株式会社キュービックおよび株式会社カプリティオに依頼し作成したものであり、"
"これらのクイズ問題は クリエイティブ・コモンズ表示・継承ライセンス 4.0 (CC BY-SA 4.0) ライセンスの下に提供されています。"
"本データセットにパッセージとして付与されている Wikipedia のコンテンツは、"
"クリエイティブ・コモンズ表示・継承ライセンス 3.0 (CC BY-SA 3.0) および GNU 自由文書ライセンス (GFDL) の下に配布されているものです。"
f"クイズ問題のライセンスについて、詳細は {_HOMEPAGE} を参照してください。"
)
_URLS = {
"train": "https://jaqket.s3.ap-northeast-1.amazonaws.com/data/aio_02/aio_02_train.jsonl",
"dev": "https://jaqket.s3.ap-northeast-1.amazonaws.com/data/aio_02/aio_02_dev_v1.0.jsonl",
}
class Aio(datasets.GeneratorBasedBuilder):
def _info(self) -> datasets.DatasetInfo:
return datasets.DatasetInfo(
description=_DESCRIPTION,
features=datasets.Features(
{
"qid": datasets.Value("string"),
"competition": datasets.Value("string"),
"timestamp": datasets.Value("string"),
"section": datasets.Value("string"),
"number": datasets.Value("int32"),
"original_question": datasets.Value("string"),
"original_answer": datasets.Value("string"),
"original_additional_info": datasets.Value("string"),
"question": datasets.Value("string"),
"answers": datasets.features.Sequence(datasets.Value("string")),
}
),
homepage=_HOMEPAGE,
license=_LICENSE,
)
def _split_generators(self, dl_manager: datasets.DownloadManager) -> List[datasets.SplitGenerator]:
downloaded_files = dl_manager.download_and_extract(_URLS)
return [
datasets.SplitGenerator(name=datasets.Split.TRAIN, gen_kwargs={"filepath": downloaded_files["train"]}),
datasets.SplitGenerator(name=datasets.Split.VALIDATION, gen_kwargs={"filepath": downloaded_files["dev"]}),
]
def _generate_examples(self, filepath: str) -> Tuple[str, Dict[str, Any]]:
logger.info(f"generating examples from {filepath}")
_key = 0
with open(filepath, "r", encoding="utf-8") as f:
for line in f:
line = line.strip()
if not line:
continue
data = json.loads(line)
yield _key, data
_key += 1
|