metadata
license: apache-2.0
このデータセットはLLMのfine-tuningにおける、「初期化(initialize)」を目的としたものです。
データのレコード数は300件程度しかありません。
目的:非日本語で最適化されたLLMをFine-tuningで日本語を使いこなせるようにするための「DS群」
(注意1:あくまで著者個人のテスト用です。DSを使うのは自由ですが、自己責任で・・・。)
(注意2:代替10エポックの「初期化」のために使うことを考えています。)
使い方:
##(1) 以下の3種のデータセットを「シリアルに(後述)」使用します。 -1. 初期化用データセット(本DS) -2. 著者がdatabrick-15k-jaを4分割させたものの一つ -3. ユーザが準備した日本語のデータセット(本当に学習させたい情報)
##(2) ファインチューニングのシリアル学習の方案(自分で工夫してください。) -1. 初期化用データセット(本DS): 10エポック程度 -2. 著者がdatabrick-15k-ja: 10エポック程度 -3. 日本語のデータセット:ご自分の納得がいくまで学習させてください。
詳しい情報はこちらのブログを参照してください。