Update README.md

README.md

@@ -48,8 +48,35 @@ language:
 - ja
 ---
 
+
+## ⚠️ ! 注意 ! 
+
+公開したデータセットは、私の不注意で本来学習させる用途には相応しくない、JAQKET テスト用のデータセットも train に含んでしまっています。
+そのため、以下のように再度テスト用のデータを分離してからの利用をお勧めします。
+
+```
+import datasets
+
+ds = datasets.load_dataset("hotchpotch/jaqket_v1_qa_wikija_context")
+train_ds = ds["train"]  # type: ignore
+valid_ds = ds["validation"]  # type: ignore
+
+# 大元の "hotchpotch/jaqket_v1_qa_wikija_context" の train / valid 分割方法がよくないので、再度分割する
+
+train_df = train_ds.to_pandas()
+valid_df = valid_ds.to_pandas()
+df = pd.concat([train_df, valid_df])
+
+valid_target_section_names = ['リーダーボードテスト問題', 'ライブコンペテスト問題']
+valid_df = df[df.section.isin(valid_target_section_names)]
+train_df = df[~df.section.isin(valid_target_section_names)]
+print(len(train_df), len(valid_df))
+```
+
+
 # jaqket_v1_qa_wikija_context
 
+
 [AI王 公式配布データセット(JAQKET)](https://sites.google.com/view/project-aio/dataset?authuser=0)へ、Wikipedia のコンテキストを追加したデータセットです。
 
 JAQKET で公開されており、かつライセンスが[CC BY-SA 4.0 DEED](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)のデータをもとに、質問の回答が含まれる Wikipedia の passage をコンテキスト追加し HuggingFace Dataset を作成した物です。Q&A タスクにコンテキスト入れて学習させたいときや、質問 + コンテキストから回答をきちんと抽出できるのか(RAGのreader用途)、といったタスクの利用が想定されます。