Update README.md

README.md

@@ -56,6 +56,8 @@ language:
 - en
 ---
 
+# msmarco-ja-hard-negatives
+
 [hpprc/msmarco-ja](https://huggingface.co/datasets/hpprc/msmarco-ja) で公開されている[MS MARCO](https://huggingface.co/datasets/microsoft/ms_marco)の日本語翻訳データに、以下の処理を加えたハードネガティブマイニングをしたものです。また、下位タスクとして、情報検索モデルのSPLADEを学習させたモデルで比較を行いました。
 
 # データの処理
@@ -82,20 +84,26 @@ query とハードネガティブの collection を元に、bge-reranker-v2-m3
 
 # データセットの評価
 
-評価実験として、2つのデータセットを比較しました
+## 評価実験として、2つのデータセットを比較しました
 
-1. mmacro(ja)（従来のデータセット）
-2. msmarco-ja-hard-negatives（本データセット）
+1. mmacro(ja)（MMARCOデータセットの日本語翻訳）
+2. msmarco-ja（本データセット）
 
-評価方法
+## 評価方法
 
 - 両データセットに対して同じ手法でハードネガティブサンプリングとスコア付けを実施
-- 同一のパラメータを用いて、日本語SPLADEモデルを学習
-- [JMTEB](https://github.com/sbintuitions/JMTEB) retrieval を用いた評価
+- mmarco/msmacro-ja のみを用いて、同一のパラメータで日本語SPLADEモデルを学習
+- [JMTEB](https://github.com/sbintuitions/JMTEB) retrieval タスクを用い評価
+
+## 評価結果
+
+| ---         | JMTEB ret Avg. | jagovfaqs_22k | jaqket | mrtydi | nlp_journal_abs_intro | nlp_journal_title_abs | nlp_journal_title_intro |
+|-------------|----------------|---------------|--------|--------|------------------------|-----------------------|-------------------------|
+| mmarco(ja)  | 0.7390         | 0.6726        | 0.6692 | 0.4449 | 0.8855                | 0.9580                | **0.8040**              |
+| msmacro-ja  | **0.7472**     | **0.6872**    | **0.6734** | **0.4656** | **0.8974**            | **0.9726**            | 0.7871                  |
 
-評価結果
+ほぼ全て項目で、msmarco-ja の方が良好な結果となった。
 
-`WIP`
 
 # データに関する注意事項