|
--- |
|
license: apache-2.0 |
|
--- |
|
## このデータセットはLLMのfine-tuningにおける、**「初期化(initialize)」**を目的としたものです。 |
|
### データのレコード数は300件程度しかありません。 |
|
|
|
|
|
## 目的:非日本語で最適化されたLLMをFine-tuningで日本語を使いこなせるようにするための「DS群」 |
|
### (注意1:あくまで著者個人のテスト用です。DSを使うのは自由ですが、自己責任で・・・。) |
|
### (注意2:代替10エポックの「初期化」のために使うことを考えています。) |
|
|
|
## 使い方: |
|
##(1) 以下の3種のデータセットを「シリアルに(後述)」使用します。 |
|
-1. 初期化用データセット(本DS) |
|
-2. 著者がdatabrick-15k-jaを4分割させたものの一つ |
|
-3. ユーザが準備した日本語のデータセット(本当に学習させたい情報) |
|
|
|
##(2) ファインチューニングのシリアル学習の方案(自分で工夫してください。) |
|
-1. 初期化用データセット(本DS): 10エポック程度 |
|
-2. 著者がdatabrick-15k-ja: 10エポック程度 |
|
-3. 日本語のデータセット:ご自分の納得がいくまで学習させてください。 |
|
|
|
詳しい情報は[こちらのブログ](https://jpnqeur23lmqsw.blogspot.com/2023/09/qeur23llmdss10-databricks15k.html)を参照してください。 |
|
|