Update README.md
Browse files
README.md
CHANGED
|
@@ -111,8 +111,6 @@ Iterative Back-Translation(IBT) は, 原言語の単言語 コーパスと目的
|
|
| 111 |
|
| 112 |
また, PatentMT の対訳コーパスと構築したコンパ ラブルコーパスの関係を調査した. コンパラブル コーパスの全文書は 66,414 文書である. このうちの 20,485 文書は, 文書内の $10 \%$ 以下の文しか対訳コー パスとして抽出されていないことがわかった. また,構築したコンパラブルコーパスを利用することで，約 67\%の文を新しく学習に使用することができるこ とがわかった.表 2 コンパラブルコーパスの効果確認実験の結果
|
| 113 |
|
| 114 |
-
} & \multicolumn{2}{|c|}{ BLEU(dev/test) } \\
|
| 115 |
-
|
| 116 |
## 3.2 データセットの前処理
|
| 117 |
|
| 118 |
前処理として英語文, 日本語文ともに NFKC 正規化を行った. また, 英語文は Moses[7] に付属する トークナイザーと truecaser でトークナイズ大文字小文字の表記を統一した. 学習前の事前処理として, SentencePiece[8] で語彙サイズを 16,000 でサブワー ド化を行った.
|
|
@@ -130,8 +128,6 @@ NMT システムには Fairseq[9] の Transformer を使用した. エンコー
|
|
| 130 |
コンパラブルコーパスの効果確認の実験結果を表
|
| 131 |
表 3 翻訳モデルの BLEU
|
| 132 |
|
| 133 |
-
} & \multicolumn{3}{|c|}{} & \multicolumn{3}{|c|}{} \\
|
| 134 |
-
|
| 135 |
2 に示す. なお, 表 2 のサイズは, 左が対訳コーパス の使用文数, 右が単言語コーパスの使用文数となっ ている.
|
| 136 |
|
| 137 |
コンパラブルコーパスを利用した 2 つの結果が ベースラインを上回ったことから，これまで利用さ れていなかったコンパラブルコーパスを活用するこ との有効性を示している. また, NTCIR-10 のベスト 翻訳モデルと BLEU を比較すると, BLEU を大きく 上回っており, 本実験で作成された翻訳モデルは十分な性能があるといえる.
|
|
|
|
| 111 |
|
| 112 |
また, PatentMT の対訳コーパスと構築したコンパ ラブルコーパスの関係を調査した. コンパラブル コーパスの全文書は 66,414 文書である. このうちの 20,485 文書は, 文書内の $10 \%$ 以下の文しか対訳コー パスとして抽出されていないことがわかった. また,構築したコンパラブルコーパスを利用することで，約 67\%の文を新しく学習に使用することができるこ とがわかった.表 2 コンパラブルコーパスの効果確認実験の結果
|
| 113 |
|
|
|
|
|
|
|
| 114 |
## 3.2 データセットの前処理
|
| 115 |
|
| 116 |
前処理として英語文, 日本語文ともに NFKC 正規化を行った. また, 英語文は Moses[7] に付属する トークナイザーと truecaser でトークナイズ大文字小文字の表記を統一した. 学習前の事前処理として, SentencePiece[8] で語彙サイズを 16,000 でサブワー ド化を行った.
|
|
|
|
| 128 |
コンパラブルコーパスの効果確認の実験結果を表
|
| 129 |
表 3 翻訳モデルの BLEU
|
| 130 |
|
|
|
|
|
|
|
| 131 |
2 に示す. なお, 表 2 のサイズは, 左が対訳コーパス の使用文数, 右が単言語コーパスの使用文数となっ ている.
|
| 132 |
|
| 133 |
コンパラブルコーパスを利用した 2 つの結果が ベースラインを上回ったことから，これまで利用さ れていなかったコンパラブルコーパスを活用するこ との有効性を示している. また, NTCIR-10 のベスト 翻訳モデルと BLEU を比較すると, BLEU を大きく 上回っており, 本実験で作成された翻訳モデルは十分な性能があるといえる.
|